Президентські кампанії вже давно адаптують свої оголошення та електронні листи до конкретних груп. Тепер це може зробити будь-який політик.
Минулого тижня, напередодні праймеріз у Нью-Гемпширі, деякі з виборців штату отримали автоматичний дзвінок, нібито від президента Джо Байдена. На відміну від інших подібних заздалегідь записаних дзвінків, які нагадували людям, що потрібно проголосувати, у цьому було інше прохання: «Не приходьте на вибори», — сказав голос. — «Краще збережіть свій голос для виборів у листопаді».
Повідомлення було дивним, навіть безглуздим, але голос на лінії точно звучав як президентський. «Яка купа негідників!» — вигукнуло воно в один момент. А ідентифікатор абонента показав, що дзвінок надійшов від колишнього голови Демократичної партії Нью-Гемпшира, повідомляє Associated Press. Але цей автоматичний дзвінок, схоже, був згенерований штучним інтелектом. Хто і навіщо його створив, залишається загадкою.
Хоча цей трюк, ймовірно, не мав реального впливу на результат виборів — Байден переміг, як і очікувалося, з переконливою кількістю голосів, — він яскраво проілюстрував один із багатьох способів, якими генеративний ШІ може вплинути на вибори. Ці інструменти можуть допомогти кандидатам легше донести своє повідомлення, але вони також можуть дозволити будь-кому створювати зображення та кліпи, які можуть ввести в оману виборців.
Багато чого з того, що ШІ зробить з політикою, буде в кращому випадку спекулятивним, але, цілком імовірно, світ ось-ось отримає деякі відповіді.
У 2024 році вибори відбудуться не лише в США, а й у Європейському Союзі, Індії, Мексиці тощо. Це рік виборів разом із ШІ.
До цього моменту значна частина уваги до ШІ та виборів була зосереджена на дипфейках, і не без причини. Загроза про те, що записане на плівку, може бути фальшивкою, одразу стає страшною правдою, більше не гіпотетичною.
Як наприклад, в останні дні напружених національних виборів у Словаччині минулої осені з’явилися підроблені аудіозаписи, на яких головний кандидат обговорює плани фальсифікації голосування (і, зрештою, подвоєння ціни на пиво).
Незважаючи на це, є деякі причини скептично ставитися до загрози.
Люди також лякалися і перед виборами 2020 року, а потім писали статті про те, чому погрози не здійснилися, продовжуючи дратуватися відносно цього. Такер сказав , що це відповідає загальній тенденції ЗМІ в останні роки, надмірно розкручувати загрозу навмисного введення виборців в оману:
«Академічні дослідження показують, що дезінформація може становити відносно невелику частку споживання новин середнього американця. Це доводило, що вона зосереджена серед невеликої частини людей, і це, зважаючи на те, наскільки поляризованою є країна, ймовірно, не змінює думки багатьох.»
Незважаючи на це, надмірна стурбованість дипфейками може стати окремою проблемою. Якщо хвилювання першого порядку полягає в тому, що людей обдурять, то хвилювання другого порядку полягає в тому, що страх перед фейками змусить людей не довіряти всьому. Дослідники називають цей ефект «дивідендом брехуна», і політики вже намагалися відкинути несприятливі ролики, створені штучним інтелектом: минулого місяця Дональд Трамп заявив , що реклама нападу використовувала штучний інтелект, щоб зробити його поганим. «Deepfake» може стати «фейковими новинами» 2024 року, нечастим, але справжнім явищем, яке кооптується як засіб дискредитації правди. Згадайте сумнозвісне твердження Стіва Беннона про те, що спосіб дискредитувати ЗМІ — це «затопити зону лайном».
ШІ не змінив основ — він просто знизив виробничі витрати на створення контенту, незалежно від того, чи призначений він для обману. З цієї причини експерти, з якими я спілкувався, погодилися, що ШІ менш імовірно створить нову динаміку, ніж посилить існуючу. Президентські кампанії з їхньою бездонною скарбницею та розгалуженим штатом уже давно мають можливість націлюватися на конкретні групи виборців за допомогою спеціального повідомлення. Вони можуть мати тисячі точок даних про те, якими є виборці, отриманих шляхом збору інформації з відкритих архівів, профілів у соціальних мережах і комерційних брокерів — з данних про вашу віру, вашу расу, сімейний стан, ваш кредитний рейтинг, ваші хобі, проблеми які вас мотивують. Вони використовують усе це для мікротаргетування виборців за допомогою онлайн-реклами, електронних листів, текстових повідомлень, стуку в двері та інших варіантів зв’язку.
Маючи в своєму розпорядженні генеративний штучний інтелект, місцеві кампанії тепер можуть робити те саме, сказав мені Зів Сандерсон, виконавчий директор Центру соціальних медіа та політики Нью-Йоркського університету.
Великі мовні моделі добре імітують мову і голос, а кампанії можуть використовувати їх для миттєвого створення повідомлень на рідній мові спільноти. Мер Нью-Йорка Ерік Адамс за допомогою штучного інтелекту переклав свій голос такими мовами, як ідиш, іспанська та мандарин.
«Зараз так дешево брати участь у цій масовій персоналізації», — сказала мені Лаура Едельсон, професор комп’ютерних наук у Північно-східному університеті, яка вивчає дезінформацію. — «Це зробить контент легшим та дешевшим для створення та доступним для більшої кількості спільнот».
Така проста легкість може зруйнувати і без того вразливу виборчу інфраструктуру демократій. З 2020 року працівники місцевих і державних виборів зазнають нападів, а ШІ може погіршити ситуацію.
Сандерсон сказав мені, що державні чиновники вже завалені запитами Закону про свободу інформації, які, на їхню думку, створені ШІ, що потенційно з’їдає час, необхідний їм для виконання своєї роботи. Ці посадовці також висловили занепокоєння, сказав він, що генеративний штучний інтелект посилить переслідування, з якими вони стикаються, зробивши акт написання та надсилання листів ненависті практично легким. (Наслідки можуть бути особливо серйозними для жінок.)
Так само це може становити більш пряму загрозу виборчій інфраструктурі. Раніше тріо чиновників з кібербезпеки та виборів опублікували статтю в Foreign Affairs, попереджаючи, що прогрес у ШІ може дозволити більш численні та складніші кібератаки. Ця тактика завжди була доступна, скажімо, іноземним урядам, і минулі атаки, особливо російський взлом електронної пошти Джона Подести в 2016 році, спричинили повний хаос. Але тепер практично будь-хто — якою б мовою він не говорив і яких би здібностей до письма не мав — може надіслати сотні фішингових електронних листів вільною англійською мовою.
«Вплив штучного інтелекту на кібербезпеку для виборів і електоральної чесності, ймовірно, не одержує такої уваги, як мав би», — сказала мені Кет Даффі, старший науковий співробітник із питань цифрової та кіберпросторової політики в Раді з міжнародних відносин.
Як діятимуть усі ці загрози, значною мірою залежатиме від контексту.
«Раптом, під час місцевих виборів, людям, які не мають ресурсів, стає дуже легко виробляти такі масштабні типи контенту, які менші раси з меншими грошима потенційно ніколи раніше не бачили б», — сказав Сандерсон.
Буквально минулого тижня згенерований штучним інтелектом аудіозапис показав як один політик з Гарлему критикує іншого. У Нью-Йорку, мабуть, найнадійніша екосистема місцевих новин серед усіх міст Америки, але деінде, у громадах без контролю ЗМІ та апаратів перевірки фактів, які існують на національному рівні, подібне аудіо може спричинити великий хаос.
Розбіжності між країнами цілком можуть бути ще більшими, сказав мені письменник і технолог Усама Хілджі. У Бангладеш прихильники правлячої партії використовують дипфейки, щоб дискредитувати опозицію. Тим часом у Пакистані колишній прем’єр-міністр Імран Хан, який минулого року опинився у в’язниці після того, як кинув виклик військовим, використовував депфейки, щоб виголошувати “промови” перед своїми прихильниками. У країнах, які розмовляють мовами з меншою кількістю онлайн-тексту для LLM, інструменти ШІ можуть бути менш складними. Але саме в цих країнах, швидше за все, технологічні платформи приділятимуть найменше уваги поширенню “дипфейків” та іншої дезінформації, сказав мені Едельсон. Індія, Росія, США, ЄС – ось на чому зосередяться платформи. “Все інше – Намібія, Узбекистан, Уругвай – “буде другорядним”, – сказав він.
Великі чи багатші країни отримають багато уваги, і проблем – найбільше. Таким чином, ставлення до виборчих наслідків ШІ нагадує ставлення до ризиків технології в цілому. Минуло трохи більше року з моменту появи ChatGPT, трохи більше року, як ми чули про те, як це означатиме масову ліквідацію роботи білих комірців, інтеграцію чат-ботів у всі аспекти суспільства, початок нового світу.
Але основні аспекти, як штучний інтелект впливає на життя більшості людей, залишаються на задньому плані: пошук Google, автозаповнення, пропозиції Spotify. Більшість із нас схильні хвилюватися через потенційно фальшиве відео, яке вводить в оману половину нації, а не через потік запитів щодо Закону про свободу інформації. Якщо такий спосіб мислення має певну ціну, то світ може заплатити за це цього року на виборах.
Джерело — The Atlantic
