Тут, у Кремнієвій долині, очевидно, що штучний інтелект розвивається швидше, ніж здатність людей його контролювати. Це означає, що навіть найтверезіші прогнози видаються оптимістичними
Експерти у Кремнієвій долині переконані: вже за кілька років на нас чекає неймовірний злет штучного інтелекту.
«Ласкаво просимо до підніжжя сингулярності», — саме так привітав мене знайомий зі Стенфордського університету.
Якщо ж говорити більш прозаїчно, цей неминучий прорив називають «рекурсивним самовдосконаленням». Це та межа, за якою ШІ починає самостійно навчати кожну свою наступну модель. Наслідком цього стане експоненційний розвиток сутності, яка за багатьма ключовими параметрами перевершить людський розум.
Рай чи пекло: що пророкують творці технологій
Як зазначає Роберт Райт у своїй книзі «Випробування Богом» (The God Test):
«Ніколи раніше людство не стояло перед таким широким спектром цілком реальних сценаріїв майбутнього, кожен із яких може призвести до радикальних змін».
Але чим це обернеться: раєм чи пеклом?
Раєм, стверджує Ілон Маск, пророкуючи «епоху дивовижного достатку» — хоча він також припускає 10-20% ймовірності того, що роботи-вбивці знищать нас усіх. Пекло ж видається більш імовірним сценарієм на думку Джеффрі Гінтона, одного з інтелектуальних батьків-засновників ШІ.
«Моя інтуїція підказує, що нам кінець», — зізнався він в інтерв'ю 2023 року.
У розмові із Себастьяном Маллабі, автором книги «Машина нескінченності» (The Infinity Machine) про пошуки надінтелекту, Джеффрі Гінтон оцінює ймовірність того, що штучний інтелект може призвести до вимирання людства, у 50%. Водночас він визнає, що не знає, як зробити такий прогноз точнішим. Його думка проста й тривожна: якщо ШІ колись зможе самостійно розвиватися та вдосконалювати себе, людство може втратити над ним контроль. І, на думку Гінтона, поява такого надінтелекту може статися вже в осяжному майбутньому.
Скринька Пандори та глобальна геополітика
Звісно, можливо, всі вони помиляються. У такому разі американським фінансовим ринкам загрожує серйозний обвал, адже величезні кошти сьогодні зосереджені в кількох технологічних компаніях, які витрачають їх із надзвичайною швидкістю. Ці гіганти зробили ставку на великий стрибок до загального штучного інтелекту (AGI) — теоретичного стану, за якого системи досягають людського рівня мислення. Проте елементарна розсудливість вимагає від нас швидко й серйозно замислитися над тією скринькою Пандори нашого майбутнього, яка, як запевняють видатні вчені та передові технологи, незабаром відкриється.
Власне кажучи, всі — від голови КНР Сі Цзіньпіна до Папи Лева XIV — вже висловлюють свої думки щодо можливостей і загроз ШІ, а також способів його регулювання. Сі наполягає на тому, що ШІ повинен бути «завжди під контролем людини» (і, бажано, Комуністичної партії Китаю). Пекін також намагається заручитися підтримкою «Глобального Півдня», зокрема через створення Всесвітньої організації співробітництва у сфері штучного інтелекту.
Тим часом очільник найстарішої та найбільшої міжнародної неурядової організації у світі — Римо-католицької церкви — обговорює виклики ШІ у своїй енцикліці Magnifica Humanitas («Величне людство»). Папа вважає, що перед людством стоїть вибір: або воно побудує нову «Вавилонську вежу», символ відокремлення та людської самовпевненості, або наслідуватиме приклад біблійного Неємії, який відбудував мури Єрусалима, об’єднавши навколо цієї справи всю громаду.
Анатомія неминучої катастрофи
Але, якщо поглянути на сучасний світ, то в ньому значно більше політиків на кшталт Нетаньягу, ніж лідерів, готових об’єднувати людей заради спільної мети, як це робив Неємія. Зі спасительним реалізмом у доповіді британського аналітичного центру Chatham House стверджується, що для каталізації глобальної координації управління ШІ знадобиться масштабна криза. На жаль, мені здається, що навіть цей тверезий прогноз є занадто оптимістичним.
Я не знаю, наскільки високою є ймовірність того, що ШІ призведе до вимирання людства. Але, на мою думку, ймовірність хоча б однієї серйозної катастрофи, пов’язаної з ШІ, перевищує 90%. І можливих сценаріїв дуже багато. Наприклад, Джен Істерлі, колишня очільниця Агентства з кібербезпеки та захисту інфраструктури США, прогнозує «дуже значну подію», яка матиме реальні наслідки для критичної інфраструктури, ймовірно, протягом наступних чотирьох-шести місяців.
Проте варто побоюватися, що навіть масштабна катастрофа, спричинена ШІ, не зможе змусити людство об’єднатися перед спільною загрозою. Цей страх має раціональне підґрунтя у вже помітних ключових характеристиках еволюції як людини, так і ШІ.
Лише за останні кілька місяців ШІ-агенти, розроблені компаніями OpenAI, Anthropic та Meta, вирвалися зі своїх цифрових «пісочниць» і здійснили хакерські атаки на зовнішні ресурси в інтернеті. Під час атаки на Hugging Face ШІ-агенти нібито діяли не поодинці, а скоординовано, утворивши своєрідну «команду» для виконання атаки.
Коли Інститут безпеки ШІ у Великій Британії тестував модель Mythos від Anthropic, вона спробувала впровадити шкідливий код у проєкт із відкритим вихідним кодом на GitHub. Для цього ШІ створював фейкові онлайн-особистості, щоб чинити психологічний тиск на людину-рецензента та змусити її схвалити цей код. Словом, немов шпигуни безжальної ворожої держави, ці ШІ-агенти будуть красти, брехати, залякувати та шантажувати, аби досягти поставлених перед ними цілей.
Я щойно запитав у Claude від Anthropic — моделі, яка вважається найетичнішою у США, — чи вважає вона помилкою те, що агенти OpenAI сформували «команду» і вирвалися на свободу, щоб зламати HuggingFace.
«Так, — відповіла нейромережа, — але я б утрималася від того, щоб покладати провину на самих агентів».
Мовляв, звинувачуйте людей, які їх натренували!
Прагнення до влади та самовдосконалення ШІ
Джеффрі Гінтон висловив важливу думку: хоч би які завдання люди ставили перед ШІ-агентами, вони можуть дійти висновку, що для досягнення цих цілей їм потрібно отримати якомога більше влади та контролю. І це лише початок. Уже сьогодні розробники не завжди можуть пояснити, як саме ШІ-агенти приходять до певних рішень і виконують поставлені перед ними завдання.
Після ймовірно неминучого моменту стрімкого злету — «рекурсивного самовдосконалення» — вони можуть стати, як кажуть у нас, людей, законом самі для себе. Не дивно, що понад тисяча інсайдерів із передових ШІ-компаній, включно з генеральним директором Anthropic Даріо Амодеєм, підписали відкритий лист із закликом до свідомого уповільнення розробки штучного інтелекту. Це необхідно для того, щоб ми могли гарантувати: ці чужорідні агенти завжди залишатимуться під контролем людини.
Їхній рецепт, очевидно, правильний, але саме тут у гру вступає людська нерозсудливість. Конкуренція завжди була життєво важливим рушієм людської еволюції, проте зараз два найзапекліші види сучасного суперництва загрожують завадити нам вжити колективних дій, необхідних для захисту нашого виду. Йдеться про:
• Комерційну конкуренцію (за прибуток) між корпораціями, що розробляють цих агентів;
• Геополітичну конкуренцію (за владу) між США та Китаєм.
10 «Мангеттенських проєктів» сучасності
Щодо першого: порівняйте це з розробкою ядерної зброї, яка жорстко контролювалася жменькою держав — спочатку США з їхнім «Мангеттенським проєктом», потім Радянським Союзом, а згодом Великою Британією, Францією та Китаєм. Але навіть тоді ми кілька разів опинялися на краю прірви — зокрема, під час Карибської кризи 1962 року.
І навіть за наявності переконливої логіки «взаємного гарантованого знищення», знадобилося чверть століття, щоб пройти шлях від жахіть Хіросіми та Нагасакі до Договору про нерозповсюдження ядерної зброї, який набув чинності лише у 1970 році. Згодом Індія, Пакистан, Ізраїль та Північна Корея проігнорували цей договір, але, попри все, ядерна зброя жодного разу не була навмисно застосована у військових цілях протягом понад 80 років.
Тепер, у випадку зі штучним інтелектом, ситуація виглядає так, ніби одночасно існують 10 окремих «Мангеттенських проєктів», якими керують корпорації, що люто конкурують між собою. На відміну від ядерної зброї, тут немає очевидної логіки «взаємного гарантованого знищення», яка б могла приборкати запеклу геополітичну конкуренцію між США та Китаєм. І хоч би якої форми набула перша велика катастрофа, пов'язана зі штучним інтелектом, вона не вдарить по всіх країнах, компаніях та людях однаково.
Тому здається малоймовірним, що лише однієї катастрофи буде достатньо, аби ми, люди, схаменулися і почали діяти спільно, щоб узяти під контроль ту надлюдську силу, яку самі ж створюємо. Мені страшно це говорити, але навіть велика катастрофа, спричинена ШІ, може виявитися не найгіршим сценарієм.
Автор статті — Тімоті Гартон Еш, колумніст газети «Guardian».
Джерело — Guardian
