Кремнієва долина США: Чи ці «патріоти» є просто провісниками загибелі? - Responsible Statecraft

Молоді та гарячі вискочки хочуть скоротити ланцюжок убивств за допомогою штучного інтелекту.

Венчурний капітал та військові стартапи в Кремнієвій долині почали агресивно просувати версію автоматизованої війни, яка буде глибоко інтегрувати штучний інтелект (AI).

Ці компанії та їхні керівники зараз на повній швидкості просуваються вперед із цією новою технологією, значною мірою ігноруючи ризик збоїв, які можуть призвести до майбутньої різанини мирних жителів, не кажучи вже про можливість небезпечних сценаріїв ескалації між великими військовими державами. Причинами цього нестримного прагнення є невиправдана віра в «чудо-зброю», але насамперед цей сплеск підтримки нових військових технологій обумовлений основною метою військово-промислового комплексу: величезні суми грошей, які потрібно заробити.

Нові техно ентузіасти

Хоча деякі військові та Пентагон справді стурбовані майбутнім ризиком застосування штучного інтелекту, керівництво Міністерства оборони повністю підтримує цю ідею. Його енергійна прихильність до нових технологій була вперше продемонстрована світу в промові заступника міністра оборони Кетлін Хікс у серпні 2023 року перед Національною оборонно-промисловою асоціацією, найбільшою торговою групою збройової промисловості в країні. Вона скористалася нагодою, щоб оголосити про те, що вона назвала «Ініціативою реплікатора», комплексною ініціативою, покликаною допомогти створити новий сучасний стан – як це було раніше в Америці – з використанням атестованих, автономних систем у всіх областях – їх можна змінити, оновити чи покращити зі значно короткішими термінами виконання.

Хікс зовсім не соромилася вказати на основну причину такого прагнення роботизованої війни: випередження і залякування Китаю. «Ми повинні, — сказала вона, — домогтися того, щоб керівництво КНР щодня прокидалося, враховувало ризики агресії та робило висновок: «сьогодні не той день» — і не лише сьогодні, а щодня».

Найвища впевненість Хікс в здібності Пентагону та американських виробників зброї вести майбутні техновійни була підкріплена групою мілітаристів нового століття в Кремнієвій долині та за її межами, очолюваних такими корпоративними лідерами, як Пітер Тіль із Palantir, Палмер Лакі з Anduril та венчурні капіталісти, такі як Марк Андріссен з Andreessen Horowitz.

Патріоти чи спекулянти?

Ці корпоративні прихильники нового способу ведення війни також вважають себе патріотами нового покоління, готовими та здатними успішно протистояти військовим викликам майбутнього.

Яскравим прикладом є «Перезавантаження арсеналу демократії», великий маніфест у блозі Андуріла. Він рекламує перевагу стартапів Кремнієвої долини над військово-промисловими гігантами старого гарту, такими як Lockheed Martin, у поставках технологій, необхідних для перемоги у війнах майбутнього:

«Найбільші оборонні підрядники укомплектовані патріотами, які, тим не менш, не мають ні досвіду в галузі програмного забезпечення, ні бізнес-моделі для створення необхідних нам технологій… Ці компанії створили інструменти, які забезпечували нашу безпеку в минулому, але вони не є майбутнім оборони».

На відміну від підходу індустріальної епохи, який він критикує, Лакі та його співвітчизники з Андуріл шукають абсолютно новий спосіб розробки та продажу зброї:

«Програмне забезпечення змінить спосіб ведення війни. Поле битви майбутнього буде рясніти безпілотними системами зі штучним інтелектом, які борються, збирають розвідувальні дані та спілкуються з запаморочливою швидкістю».

На перший погляд, Лакі видається малоймовірним кандидатом, який досі піднявся у лавах керівників військової промисловості. Свій початковий стан він заробив, створивши пристрій віртуальної реальності Oculus - новинку, яку користувачі можуть прикріпити до голови, щоб випробувати різні тривимірні сцени (відчуття, що вони вбудовані в них). Зараз він повністю переключився на військову роботу. У 2017 році він заснував Anduril, частково за підтримки Пітера Тіля та його інвестиційної компанії Founders Fund. В даний час Anduril виробляє автономні дрони, автоматизовані системи управління та контролю та інші пристрої, призначені для збільшення швидкості, з якою військовослужбовці можуть ідентифікувати та знищувати цілі.

Тіль, наставник Палмера Лакі, пропонує приклад того, чим лідери нових компаній зброї відрізняються від титанів епохи холодної війни. Почнемо із того, що він повністю підтримує Дональда Трампа. Колись керівники великих виробників зброї, таких як Lockheed Martin, намагалися підтримувати добрі зв'язки як з демократами, так і з республіканцями, вносячи суттєвий внесок у передвиборчу кампанію обох партій та їхніх кандидатів та наймаючи лобістів зі зв'язками з обох боків. Логіка такого рішення тоді не могла здатися більш ясною. Вони хотіли закріпити двопартійний консенсус щодо збільшення витрат на Пентагон, що було однією з небагатьох речей, з якими погодилася більшість ключових членів обох партій. І вони також хотіли мати особливо добрі стосунки з тією партією, яка будь-коли контролювала Білий дім та/або Конгрес.

Вискочки з Кремнієвої долини та їхні представники також набагато голосніше критикують Китай. Вони найхолодніші (чи я маю на увазі найгарячіші?) з нових воїнів холодної війни у ​​Вашингтоні, які використовують жорсткішу риторику, ніж Пентагон чи великі підрядники. Навпаки, великі підрядники зазвичай стримують свою критику Китаю та підтримку воєн по всьому світу, що допомагає збільшити їхній прибуток через аналітичні центри, які вони фінансують на суму в десятки мільйонів доларів щорічно.

Основна компанія Тіля, Palantir, також критикувалася за надання систем, які дозволили імміграційній та митній поліції США (ICE) жорстко контролювати кордони, а також здійснювати «превентивну поліцейську діяльність». Це передбачає збір величезних обсягів персональних даних без ордера, спираючись на алгоритми з вбудованими расовими упередженнями, що призводять до систематичного несправедливого націлювання та поводження з кольоровими людьми.

Щоб повністю зрозуміти, як мілітаристи Кремнієвої долини дивляться на війну наступного покоління, вам потрібно ознайомитись із роботою Крістіана Броза, директора зі стратегії Palantir. Він був давнім військовим реформатором та колишнім помічником покійного сенатора Джона Маккейна. Його книга Kill Chain служить своєрідною біблією для прихильників автоматизованої війни. Його ключове спостереження: переможцем у бою стає той бік, який зможе найефективніше скоротити «ланцюжок поразки» (час між виявленням та знищенням мети). У його книзі передбачається, що найімовірнішим противником у наступній технологічній війні справді буде Китай, і він продовжує перебільшувати військові можливості Пекіна, одночасно перебільшуючи його військові амбіції та наполягаючи на тому, що випередження цієї країни у розробці нових військових технологій є єдиним шляхом до майбутньої перемоги.

І майте на увазі, що ідея Броуза про скорочення цього ланцюжка вбивств таїть у собі величезні ризики. У міру того, як час на ухвалення рішення про те, які дії вжити, скорочується, спокуса вивести людей «з циклу» буде тільки зростати, залишаючи рішення про життя та смерть машинам, які не мають морального компасу і вразливим для катастрофічних збоїв програми.

Більшість критики Броза нинішнього військово-промислового комплексу звучить правдоподібно. Декілька великих фірм розбагатіли, створюючи все більш уразливі величезні збройові платформи, такі як авіаносці і танки, тоді як Пентагон витрачає мільярди на велику, дорогу глобальну мережу баз, яку можна було б замінити набагато меншою і більш розосередженою військовою присутністю. Однак, на жаль, його альтернативне бачення створює більше проблем, ніж вирішує.

По-перше, немає жодної гарантії, що програмні системи, що просуваються Кремнієвою долиною, працюватимуть так, як рекламується. Зрештою існує довга історія невдалої «чудо-зброї» — від електронного поля бою у В'єтнамі до катастрофічного протиракетного щита президента Рональда Рейгана в «Зоряних війнах». Навіть коли здатність швидше знаходити і знищувати цілі справді покращувалась, війни, подібні до війн в Іраку та Афганістані, в яких використовувалися саме ці технології, були сумним провалом.

Нещодавнє розслідування Wall Street Journal припускає, що нове покоління військових технологій також переоцінене. Журнал виявив, що невеликі новітні американські безпілотники, поставлені Україні для її оборонної війни проти Росії, виявилися надто «глючними і дорогими», настільки, що, за іронією долі, українці віддали перевагу купувати дешевші і надійніші китайські дрони.

Нарешті, підхід, який пропагує Броуз і його прихильники, зробить війну більш ймовірною, оскільки технологічна зарозумілість вселяє віру в те, що Сполучені Штати справді можуть «перемогти» в конфлікті з державою такою як Китай.

Результатом, як нещодавно відзначили мій колега Майкл Бренес і я, є незліченні мільярди доларів приватних грошей, які зараз вливаються у фірми, які прагнуть розширити межі техноїни. Оцінки варіюються від 6 до 33 мільярдів доларів на рік і, за даними New York Times, за останні чотири роки – 125 мільярдів доларів. Хоч би якими були цифри, технологічний сектор та його фінансові спонсори відчувають, що на зброї наступного покоління можна заробити величезні суми грошей, і не збираються дозволяти комусь стояти у них на шляху.

Тим часом розслідування, проведене Еріком Ліптоном з New York Times, показало, що венчурні капіталісти і стартапи, які вже набирають обертів у війні, керованій штучним інтелектом, також активно наймають колишніх військових та чиновників Пентагону. Перше місце у цьому списку посідає колишній міністр оборони Трампа Марк Еспер. Такі зв'язки можуть бути викликані патріотичним прагненням, але вірогіднішою мотивацією є бажання розбагатіти. Як зазначила Еллен Лорд, колишній керівник відділу закупівель у Пентагоні: «Звязки між оборонною спільнотою та приватними інвестиціями зараз набули розмаху. Але вони також сподіваються, що зможуть по-великому заробити купу грошей».

Король-філософ

Ще однією центральною фігурою у створенні високотехнологічної військової машини є колишній генеральний директор Google Ерік Шмідт. Його інтереси виходять далеко за межі військової сфери. Він став фактично королем-філософом, коли йдеться про те, як нові технології змінять суспільство і, по суті, про те, що означає бути людиною. Він уже деякий час розмірковував над такими питаннями і виклав свої погляди у книзі 2021 року зі скромною назвою «Епоха штучного інтелекту та наше людське майбутнє», написаній у співавторстві ні з ким іншим, як із покійним Генрі Кісінджером. Шмідт усвідомлює потенційні небезпеки ШІ, але він також знаходиться в центрі зусиль щодо просування його військового застосування. Хоча він відмовляється від месіанського підходу деяких багатообіцяючих діячів Кремнієвої долини, питання про те, чи буде його, здавалося б, продуманіший підхід сприяти розвитку безпечнішого та розумнішого світу ШІ-зброї, залишається відкритим.

Давайте почнемо з найпростішої речі: ступінь, в якому Шмідт думає, що ШІ змінить життя, яким ми його знаємо, є екстраординарним. У цій книзі, написаній ним та Кісінджером, вони стверджували, що це викличе «зміна людської ідентичності та людського досвіду на рівнях, небачених з початку сучасної епохи», стверджуючи, що функціонування ШІ «передбачає прогрес у напрямку сутності речей, прогрес, якого філософи, теологи та вчені домагалися, з частковим успіхом, упродовж тисячоліть».

З іншого боку, урядова комісія зі штучного інтелекту, в якій працював Шмідт, повністю визнала ризики, пов'язані з військовим використанням ШІ. Залишається питання: чи підтримає він принаймні суворі гарантії проти його зловживання? Під час свого перебування на посаді голови Ради з оборонних інновацій Пентагону з 2017 по 2020 рік він дійсно допоміг підготувати ґрунт для керівних принципів Пентагону щодо використання ШІ, які обіцяли, що люди завжди будуть «в курсі» під час запуску зброї наступного покоління. Але, як зазначив критик технологічної галузі, якщо відкинути риторику, керівні принципи «насправді не заважають вам щось робити».

Фактично, сенатор Елізабет Уоррен (демократ від Массачусетса) та інші добрі захисники уряду задавалися питанням, чи не представляє роль Шмідта як голови відділу оборонних інновацій потенційний конфлікт інтересів. Зрештою, допомагаючи формувати керівні принципи військового застосування ШІ, він також інвестував у фірми, які могли отримати прибуток від його розробки та використання. Його інвестиційна організація America's Frontier Fund регулярно вкладає гроші у військові технологічні стартапи, а заснована ним некомерційна організація «Проект спеціальних конкурентних досліджень» описує свою місію як «зміцнення довгострокової конкурентоспроможності Америки, оскільки штучний інтелект [перекроює] нашу національну безпеку, економіку та суспільство».

Група пов'язана з лідерами військової та технологічної промисловості та виступає, серед іншого, за менше регулювання військово-технічного розвитку. У 2023 році Шмідт навіть заснував компанію з виробництва військових дронів White Stork, яка, за даними Forbes, таємно тестувала свої системи в Менло-Парку, передмісті Силіконової долини.

Питання тепер у тому, чи можна переконати Шмідта використати свій значний вплив, щоб приборкати найнебезпечніші види використання ШІ. На жаль, його ентузіазм щодо використання цього методу для підвищення бойових можливостей говорить про протилежне:

«Інколи з'являється нова зброя, нова технологія, яка змінює ситуацію. Ейнштейн написав листа Рузвельту в 1930-х роках, в якому говорилося, що існує нова технологія — ядерна зброя — яка може змінити війну, що вона й зробила. Я сказав би, що автономія [на базі штучного інтелекту] і децентралізовані, розподілені системи є настільки потужними».

Враховуючи вже згадані ризики, порівняння воєнізованого ШІ із розробкою ядерної зброї не повинно бути обнадійливим. Комбінація цих двох варіантів — ядерної зброї, керованої автоматичними системами без втручання людини — поки що виключена, але не варто розраховувати на те, що це триватиме довго. Це все ще можливо, якщо не буде надійних та здійсненних гарантій того, коли та як можна використовувати ШІ.

Штучний інтелект прийде, і його вплив на наше життя, чи то війна чи мир, ймовірно, вразить уяву. У цьому контексті ясно одне: ми не можемо дозволити людям та компаніям, які найбільше виграють від його неприборканого застосування, мати перевагу у встановленні правил його використання.

Чи не час битися з воїнами нового століття?

Джерело