ПАР відкликала політику щодо ШІ після того, як було виявлено, що її писав ШІ. ПАР відкликала проєкт стратегії щодо ШІ через виявлення шести вигаданих нейромережею посилань. Міністр зв'язку заявив про підрив довіри до документа.
Південна Африка вирішила відкликати проєкт своєї національної політики в галузі ШІ після того, як з’ясувалося, що деякі правила були згенеровані за допомогою ШІ та посилалися на вигадані джерела, пише УНН з посиланням на The Independent.
Деталі
Міністр зв’язку країни Соллі Малатсі відкликав проєкт політики після того, як виявив, що щонайменше 6 із 67 академічних посилань було згенеровано ШІ та містили посилання на неіснуючі наукові статті.
“Найбільш правдоподібне пояснення полягає в тому, що згенеровані ШІ посилання були включені без належної перевірки. Цього не мало статися”, – сказав Малатсі.
“Цей провал – не просто технічна проблема, а підірвана цілісність і довіра до проєкту політики”, – написав він у повідомленні у X.
Проєкт політики був представлений для громадського обговорення та спрямований на позиціонування країни як лідера в галузі інновацій у сфері ШІ, одночасно намагаючись вирішити етичні, соціальні та економічні проблеми, пов’язані з використанням ШІ.
У ньому викладено плани щодо створення нових інституцій у країні для нагляду за використанням ШІ, включаючи національну комісію з ШІ, раду з етики ШІ та регулюючий орган з ШІ.
У проєкті правил також викладено плани щодо надання податкових пільг, грантів та субсидій для заохочення співпраці приватного сектору у створенні інфраструктури ШІ в країні.
Очікується, що його буде переглянуто перед повторною публікацією для громадського обговорення.
Проблема випливла на поверхню, коли південноафриканське видання News24 виявило, що щонайменше 6 із 67 академічних посилань у документі не існували, тоді як журнали, на які вони посилалися, були реальними.
Редактори журналів, включаючи South African Journal of Philosophy, AI & Society та Journal of Ethics and Social Philosophy, незалежно підтвердили, що цитовані статті були фейковими.
Міністр зв’язку заявив, що будуть наслідки для тих, хто відповідав за розробку політики.
“Ця неприйнятна провина доводить, чому пильний людський контроль за використанням штучного інтелекту має вирішальне значення. Це урок, який ми засвоюємо зі смиренністю”, – написав він у X.
Доповнення
Це підкреслює зростаючу проблему використання генеративного ШІ вченими та адміністраторами для досліджень та складання документів, зауважує видання.
Дослідження, опубліковане в журналі Nature, показало, що понад 2,5% наукових статей, опублікованих у 2025 році, містили як мінімум одне потенційно вигадане посилання, порівняно з 0,3% у 2024 році.
Це становить понад 110 000 статей, опублікованих у 2025 році, які містять недійсні посилання, “вигадані” штучним інтелектом.
Це впевнені, але сфабриковані результати, що генеруються моделями ШІ, коли вони відчувають, що в їхніх даних у цій галузі чогось не вистачає, пише видання.
Великі мовні моделі, такі як ChatGPT від OpenAI та Gemini від Google, призначені для прогнозування наступного можливого слова в послідовності слів, а не для перевірки істинності.
Джерело: УНН.
