Автор: Бен Дубоу — позаштатний науковий працівник CEPA та засновник компанії Omelas
Переклад з англійської: Родіон Шкурко
Авторитарні режими вважають, що можуть використовувати штучний інтелект для репресій проти свого населення. Натомість ШІ може їх підірвати.
ШІ, навчений на медіа з демократичних країн — як і більша частина інтернету — інтерпретуватиме світ інакше, ніж диктує пропаганда Пекіну та москви. Напишіть запит в ChatGPT або Google Bard про конфлікт в Україні, і великі мовні моделі використають заборонене слово "війна".
Звичайно, авторитарні режими намагатимуться використовувати інструменти розпізнавання облич ШІ для посилення контролю. Чим більше камер, тим більше можливостей створити антиутопію 1984 в стилі Оруелла. Китай використовує біометричні дані та моніторинг соціальних мереж на основі штучного інтелекту, щоб контролювати свою мусульманську меншину уйгурів. Він експортує технології спостереження по всьому світу, дозволяючи Індії використовувати розпізнавання облич для визначення геолокації протестувальників, Пакистану — стежити за інтернет-трафіком, а Сербії — контролювати вулиці.
Але авторитарні країни намагатимуться стримувати зростаючу силу генеративного ШІ. Нещодавно Китай оголосив про нові правила, які мають обмежити ШІ "основними соціалістичними цінностями". Ці правила обмежать технологічний прогрес країни в галузі ШІ. Генеративний ШІ також лякає і росію.
І ось чому. Авторитарні режими покладаються на наративну однорідність як на інструмент контролю, розглядаючи будь-яке відхилення як потенційну загрозу. Генеративний ШІ становить загрозу для цієї наративної однорідності. Авторитарні режими змушені боротися з безліччю новин, медіа та культурних продуктів, які ставлять під сумнів їхню прийняту версію реальності.
Розглянемо трохи цифрової історії до появи штучного інтелекту. Розвиток інтернету спричинив радикальні зміни у формуванні наративів, насамперед через трансформацію пошуку інформації. Традиційні медіа — газети та телебачення — покладалися на журналістів та редакторів, які відбирали та створювали наративи. Інтернет запропонував нову парадигму самостійного пошуку інформації.
Це також створювало хаос. До появи Google просіювати безмежне море даних було колосальним завданням. Пошукова система видавала результати, засновані на посиланнях між сайтами. Результати відображали упередження видавців вебсторінок, які надавали перевагу авторитетним джерелам.
Для авторитарних режимів такий розвиток подій не становив великої загрози. Пошукові системи надавали детерміновані результати, які було легко заблокувати. За наявності сильних попередніх наративів пошукові системи виявилися більш схильними до зміцнення наявних поглядів, ніж до провокування зміни поглядів. Китай вітав Google доти, доки він дотримувався суворого режиму цензури, тоді як, наприклад, російське втручання у видачу Google у 2000-х роках було зосереджене на придушенні результатів, що підтримували чеченських повстанців.
Але панування пошукових систем як єдиної форми пошуку цифрової інформації виявилося недовгим. Платформи соціальних мереж, що працюють на основі рекомендаційних систем, надавали нескінченний потік нової інформації, яка споживалася пасивно, на відміну від пошукових систем, де користувачі активно шукали відповіді на свої запитання. У той час як Google залежав від того, який контент, на думку авторів, найкраще підкріплював їхні аргументи або був найдостойнішим для відвідування наступним, рекомендаційні системи покладалися на те, яким контентом споживачі найчастіше ділилися, коментували чи вподобали.
У певному сенсі це був акт демократизації: кількість споживачів набагато більша, ніж кількість творців. Споживати антирежимний контент, особливо коли його постачає знеособлений алгоритм, а не активно шукають, набагато безпечніше, ніж створювати його. З розвитком соціальних мереж відбулися потрясіння в Північній Африці, на Близькому Сході та в колишній радянській сфері впливу.
Авторитарні режими вжили заходів. Росія почала вимагати цензури Facebook і Twitter, а Китай заборонив обидві соцмережі й найняв армію для моніторингу їхніх вітчизняних аналогів. Державний Китайський фонд інтернет-інвестицій отримав контрольний пакет акцій Sina Weibo, найпопулярнішої соціальної мережі в країні, і великий пакет акцій ByteDance, материнської компанії Daiyoun, китайського аналога TikTok. Після протестів 2011 року в москві російський уряд допоміг витіснити первісного засновника "ВКонтакте", провідної вітчизняної соціальної мережі. Лояльний олігарх був встановлений у 2022 році. Контроль над соціальними мережами посилив партійну лінію в Китаї та збільшив підтримку вторгнення росії в Україну.
У той час як авторитарним режимам вдалося схилити шальки терезів рекомендаційних систем на користь певних наративів, генеративний ШІ являє собою зовсім іншого звіра. Завдяки своїй здатності створювати повністю синтезовані наративи, ШІ може піддавати користувачів новим — і з точки зору авторитарних режимів — небезпечним наративам.
ШІ може заохочувати користувачів обходити цензуру. Він знаходиться на шляху до того, щоб стати важливим помічником у виконанні повсякденних завдань. Соціальні мережі, навпаки, значною мірою відвертають нас від повсякденного життя. Коли цей довірений радник проговориться про правду про "спеціальну військову операцію" або різанину на площі Тяньаньмень, аудиторія буде слухати.
