Південна Африка зробила першу спробу створити обов’язкові правила для штучного інтелекту (ШІ). Проте проєкт закону відкликали вже через 16 днів після його оприлюднення в офіційному урядовому бюлетені.
10 квітня Міністерство комунікацій та цифрових технологій ПАР оприлюднило проєкт Національної політики щодо ШІ для громадського обговорення. Журналісти перевірили наведені в документі посилання і з’ясували, що вони фейкові. Одні з посилань вели на неіснуючі наукові журнали, інші — на справжні журнали, але там ніколи не публікували згаданих статей.
Такі випадки — типовий прояв відомої проблеми генеративних систем ШІ, яку називають «галюцинаціями». Міністр комунікацій визнав, що справа не в технічному збої, а у відсутності контролю. Систему ШІ використали без перевірки джерел людиною, через що достовірність і цілісність документа була підірвана. Багато хто сприйняв це як курйоз: документ, який мав регулювати ШІ, сам опинився під сумнівом через помилку ШІ.
Я, старша викладачка з кіберзаконодавства і регулювання ШІ, вважаю: сприйняття цього інциденту лише як прикрої помилки відволікає від справжньої суті проблеми. Наш випадок з фальшивими цитатами (іноді їх називають HalluCitations) показав дві ключові проблеми. Перша — відсутність епістемічної цілісності, тобто немає гарантій, що дослідження базувалися на надійних, етичних та відтворюваних методах. Друга — брак інформаційної надійності: громадськість очікує, що інформації з авторитетних джерел можна довіряти, але тут довіра була підірвана.
Розроблена політика не була готова вирішувати жодну з цих проблем, і сама продемонструвала їх на своєму прикладі. Це важливо, адже шкода від генеративного ШІ не обмежується лише фейковими посиланнями. Аналогічно він може створювати підроблені фото, відео чи голоси людей (дипфейки), що теж вводить в оману і може спричиняти серйозні наслідки.
Що таке галюцинації ШІ?
Галюцинації — це відома проблема генеративних ШІ-систем (наприклад, ChatGPT та інші), які створюють тексти, зображення або звук. Вони виникають, коли система генерує правдоподібний, але неточний або вигаданий контент. Це зростаюча проблема:
У наукових роботах. В університетах іноді науковці надають фальшиві джерела, згенеровані ШІ, у своїх дослідженнях.
У судових справах. У судах (зокрема в ПАР) адвокати подавали документи з неіснуючими джерелами.
В офіційних документах. Навіть у відкликаній політиці щодо ШІ фейкові посилання створили видимість якоїсь авторитетної африканської наукової традиції та вводили в оману щодо реальних дослідників і установ.
Що далі?
Південноафриканська політика ШІ базувалася на принципах відповідального управління: підзвітності, прозорості і пояснюваності. Ці умови є ключовими в керівних документах ОЕСР та в «ШІ-блакитному плані Smart Africa», на які посилався розроблений проєкт. Принципи стосуються не тільки творців ШІ, а й будь-якої організації, що використовує ШІ (зокрема при підготовці офіційних документів). Та цю політику створили без дотримання всіх трьох принципів, про що свідчить наш випадок. Міністерству доведеться відповісти на важливі запитання щодо кожного з цих аспектів:
Підзвітність: Проблема в тому, що органи влади мають відновити довіру громадян і показати, як вони ркгулюють ситуацію на практиці. Потрібно пояснити, наскільки фейкові джерела вплинули на зміст політики. Жодне редагування документа не може початися без дотримання тих самих стандартів, які цей документ пропонує іншим.
Прозорість: Це розкриття інформації про помилки. Наприклад: які частини політики змінили через фейкові посилання? Яким саме інструментом ШІ користувались, хто ним оперував і коли саме залучили ШІ у роботу над документом? Чи допомагав він з літературним оглядом, формулюванням принципів, аналізом громадських коментарів — чи з усього потроху? Поки що міністерство цього не пояснило.
Пояснюваність: Цей принцип вимагає чітко пояснити логіку формування документа. Хоча фейкові посилання є у списку літератури, без детальних пояснень незрозуміло, які саме частини політики вони «підтверджували» і як впливали на її ключові пріоритети. Натомість у розділах для коментарів користувачів вказали лише перевірені, достовірні джерела.
Що потрібно змінити
У відкликаній політиці ШІ правильно визнали штучний інтелект інструментом інклюзивного економічного зростання, розвитку потенціалу та захисту прав людини. Там також зазначили, що цей документ — лише «відправна точка», і надалі потрібні підходи, орієнтовані на кожну окрему галузь. Проте необхідно змінити підхід до генеративного ШІ — як під час створення політичних документів, так і під час регулювання синтетичних медіа (зокрема дипфейків).
Це не ті проблеми, які можна відкладати на потім чи вирішувати лише на рівні окремих секторів. Питання довіри суспільства та протидії фейковим медіа — міжгалузеві виклики. Вони вимагають власної логіки регулювання і спільних механізмів управління, побудованих на співпраці різних сфер. Переглянута політика повинна врахувати ці виклики як самостійні завдання, а не просто як підкатегорію управління інноваціями.
Наразі бракує узгодженої системи правил щодо строків, правових інструментів та заходів у випадках, коли генеративний ШІ використовується для поширення неправдивої інформації і дезінформації через фейкові джерела та синтетичні медіа. Для запровадження такої системи не потрібно створювати нові установи — потрібні політична воля та розробка відповідних політик.
Джерело — The Conversation
