Автори: Семюел Бендетт та Джейн Пінеліс для War on the Rocks
Оригінальний допис був опублікований 25 січня 2024 року
Про авторів: Семюел Бендетт - ад'юнкт-старший науковий співробітник Програми технологій та національної безпеки Центру нової американської безпеки
Доктор Джейн Пінеліс - головний інженер зі штучного інтелекту в Лабораторії прикладної фізики Університету Джона Хопкінса
Від початку вторгнення росії в Україну використання штучного інтелекту у військових операціях є однією з найбільш обговорюваних тем у ЗМІ та літературі у відкритому доступі. Але попри всю похвалу, яку отримали українські інновації, занадто мало хто визнає, наскільки ефективним виявився більш нерозважливий підхід росії до ШІ.
Українські та російські війська використовують ШІ для прийняття рішень і аналізу даних при обробці інформації, отриманої з численних датчиків і пунктів спостереження, включаючи дрони, безпілотні літальні апарати, пілотовані літаки, супутники та наземні війська і системи. Але були й відмінності в тому, як обидві сторони використовували ШІ. Українські і західні розробки в царині ШІ зосереджувалися на швидкій ідентифікації, відстеженні та наведенні на ціль. Росія, своєю чергою, використовувала баражуючі боєприпаси, а також різні системи управління, розвідки, спостереження і спостереження, щоб задовольнити свої потреби в точному наведенні на ціль.
Простіше кажучи, західні системи зі штучним інтелектом зосереджені на «лівій частині» циклу спостереження, орієнтування, прийняття рішення і дії. Але в той час як Захід надає пріоритет швидшому наведенню на ціль і посиленню можливостей бійців, росія намагається зробити кроки до автоматизації всього «ланцюжка вбивств». Стисло кажучи, агресивне використання ШІ, що розвивається як у військовому, так і у волонтерському середовищі, контрастує з обережним і відповідальним, за умов недостатнього фінансування, підходом Сполучених Штатів. Тепер Міністерству оборони США необхідно терміново визначити пріоритети у сфері безпеки ШІ, щоб етично конкурувати на динамічному полі бою із застосуванням систем з елементами ШІ.
Російські інновації
У той час як Сполучені Штати зосередилися на методичному вирішенні проблем, пов'язаних з придбанням технологій та інтеграцією даних, військові зусилля росії в Україні підкріплюються процвітаючим ландшафтом фінансування, виробництва і опортуністичного впровадження комерційних технологій в оперативне середовище.
Розвиток російських систем із застосуванням елементів штучного інnелекту виходить за межі офіційних військових каналів. Швидко зростаюча і складна екосистема, яка підтримує армію в Україні, складається з численних волонтерських зусиль, які розробляють і постачають на фронт бойову техніку і системи. Цей процес постачання використовує переваги комерційних готових технологій для створення та збирання зброї, таких як FPV-дрони - легкі безекіпажні дрони-камікадзе. Оператор такого безпілотника зазвичай бачить зображення, що передається з нього, подібне до того, яке можна було б побачити з місця пілота літака. Такі зусилля є природним наслідком швидкого придбання і масового використання комерційних дронів і пов'язаних з ними систем під час цього вторгнення. Їм також допомагають пожертви від російських громадян, приватного бізнесу та заможних людей, що забезпечує як купівельну спроможність, так і швидкі інновації. Деякі з цих організацій також отримують вигоду від прямих зв'язків з російським урядом, маючи доступ до фінансування, технологій та урядового захисту для своєї діяльності.
Міністерство оборони росії часто рекламує малі та середні безпілотні літальні апарати, оснащені елементами штучного інтелекту, і безекіпажні БПЛА - часто під час великих заходів, таких як щорічні військові виставки та форуми. Комерційні готові технології, очевидно, дозволяють російським волонтерам впроваджувати елементи штучного інтелекту у свої розробки безпілотників. У серпні 2023 року фахівці «Царскіх волков» оголосили, що їхній важкий квадрокоптер «Штурм 1.2» використовує ШІ, стверджуючи, що цей напівавтономний безпілотний літальний апарат може приймати рішення і скидати снаряди незалежно від людини-оператора. За словами розробників, оператор наводить перехрестя на ціль на панелі управління безпілотника, після чого безпілотник самостійно розраховує час і відстань, перш ніж скинути боєприпаси.
Такі заяви про [використання елементів] ШІ за принципом «наведи і клацни» важко підтвердити за відсутності доказів. Якщо це правда, то вони свідчать про зростаючу витонченість російських волонтерських організацій, які експериментують з обмеженими алгоритмами розпізнавання зображень і картографування місцевості з використанням ШІ. Дрон «Штурм 1.2» нібито оснащений тепловізійною камерою, а також може використовуватися як одноразовий дрон-камікадзе. Це свідчить про те, що, незважаючи на складне внутрішнє оснащення, він все ще досить дешевий, щоб його можна було витратити в бою.
У серпні 2023 року інша російська волонтерська група представила FPV-дрон «Овод». За словами розробників, бортова система штучного інтелекту дозволяє атакувати статичні та динамічні цілі з точністю до 90 відсотків. Існує твердження, що «Овод» пройшов бойові випробування в Україні. Також у серпні 2023 року волонтерський рух «Інноватори для фронту» представив квадрокоптер «Аква-22» з елементами штучного інтелекту для проведення автономних операцій. Розробники стверджують, що цей дрон може самостійно розпізнавати ворожу техніку, живу силу та інші об'єкти. Хоча це також виглядає як розробка «в домашніх умовах», розробники також визнали, що цей безпілотник був спільною розробкою з науково-дослідною установою, пов'язаною з військовим відомством.
Насправді, деякі українські волонтери та військові експерти занепокоєні кількома прикладами російських FPV-дронів з обмеженими функціями ШІ, які вже з'являються на фронті на початку 2024 року. Сьогодні росія активно випробовує свої комерційні системи в реальних військових операціях, що дає змогу зрозуміти їхню практичну ефективність. Хоча це дозволяє перевірити передові технології в бою, такий підхід суперечить американським демократичним цінностям. У Сполучених Штатах випробовування систем з елементами штучного інтелекту у бою прямо порушує етичні принципи Міністерства оборони щодо ШІ та давно встановлені міжнародні норми. Замість цього Міністерство оборони грає в довгу, сумлінно (хоча й неохоче) виділяючи ресурси на всебічне розширення своєї випробувальної інфраструктури, спрямоване на створення надійної системи забезпечення безпеки ШІ та дотримання американських цінностей і правил, таких як Директива Міністерства оборони 3000.09.
Правдоподібність і аналіз: як багато можна зробити «на льоту»?
Наскільки правдоподібними є російські заяви, і наскільки ймовірно, що ці волонтерські організації зможуть створити справжній військовий дрон зі штучним інтелектом? Багато російських коментаторів та ентузіастів безпілотників стверджують, що ШІ необхідний у цій війні, враховуючи потребу в тому, щоб усі види дронів працювали більш автономно, щоб уникнути багаторівневих контрзаходів, таких як засоби радіоелектронної боротьби, які пронизують бойовий простір в Україні.
Публічна дискусія з російського боку вказує на можливість команд з землі для дронів-камікадзе з елементами штучного інтелекту «на борту», а також роїв дронів з елементами штучного інтелекту, що злітаються на виявлений особовий склад, озброєння і системи супротивника. З огляду на те, що над такими розробками працюють багато великих армій у всьому світі, не буде перебільшенням припустити, що організації, які займаються розробкою бойових FPV-дронів, також вивчають, як така передова технологія може допомогти їм у їхніх зусиллях. Такі російські волонтерські зусилля також конкурують з українськими ініціативами, що працюють над створенням FPV-дронів з елементами штучного інтелекту.
У Сполучених Штатах, однак, основна увага приділяється розробці альтернативних засобів позиціонування, навігації і таймінгу, тестуванню і покращенню систем для протидії ворожим діям, а також впровадженню автономії місій шляхом надання можливості робити висновки на самих платформах замість того, щоб покладатися на систему зв'язку. Але Америка, швидше за все, зіткнеться з тими ж потребами, що і росія сьогодні. Ймовірна втрата зв'язку, систем глобального позиціонування та інших засобів зв'язку є таким же рушієм розвитку автономних систем, як і бажання прискорити прийняття військових рішень.
Заяви російських волонтерів про безпілотники з елементами штучного інтелектом можуть мати під собою підґрунтя у вигляді відповідних міжнародних подій. Того ж місяця, коли російські добровольці зробили свої заяви про серпень 2023 року, одна швейцарська організація представила технологію ШІ для свого гоночного дрона Swift, який перемагає людей-гонщиків. За словами розробників, цей дрон реагував у режимі реального часу на дані, зібрані його бортовою камерою, а штучна нейронна мережа використовувала дані з камери для локалізації цього дрона в просторі та виявлення перешкод і шляхів уздовж гоночної траси. Ці дані надходили до блоку управління на основі глибокої нейронної мережі, який обирав найкращий маршрут для проходження гоночної траси. Дрон також пройшов навчання в симульованому середовищі, де він навчився літати методом проб і помилок, використовуючи машинне навчання, яке називається навчанням з підкріпленням. Розробники змусили дрон літати автономно, використовуючи точні позиції, надані зовнішньою системою відстеження положення, в той час як він записував дані зі своєї камери - цей процес дозволив йому автоматично виправляти помилки в інтерпретації даних з бортових датчиків. Хоча це досягнення стало важливою віхою в розвитку дронів, деякі міжнародні коментатори застерігають, що пілоти-люди можуть швидко відновлюватися після помилок і зіткнень, в той час як Swift «значно вагався, коли стикався з несподіваними фізичними змінами, такими як різка зміна погоди».
Програмне забезпечення для штучного інтелекту є ключовим компонентом дронів, і багато комерційних компаній продають системи комп'ютерного зору, розпізнавання об'єктів і місцевості та пов'язані з ними технології. Московська компанія hive.aero розробляє «автономні дрони для регулярного моніторингу», рекламуючи нейронну мережу для аналізу вхідних даних, таких як фото, відео, символи, текст, звук, теплові зображення, хімічні реагенти та просторові індикатори, і зазначаючи, що «можливості нейронної мережі для визначення типових випадків практично безмежні». Деякі компанії навіть рекламують недороге програмне забезпечення з елементами штучного інтелекту, яке можна завантажити менш ніж за 50 доларів для малих і середніх комерційних дронів.
У відкритих джерелах повідомляється про використання програмного забезпечення з елементами ШІ для дронів і безпілотних літальних апаратів для аналізу даних з бортових камер і обробки цієї інформації з метою виявлення, вилучення і класифікації ознак. Таке програмне забезпечення з елементами ШІ може бути встановлене на вбудованих обчислювальних пристроях, таких як графічні процесори загального призначення, центральні процесори і «системи на кристалі». Однак бортові системи обробки даних з елементами ШІ можуть споживати велику кількість ресурсів і створювати проблеми для безпілотників, які мають обмеження за розміром, вагою і енергоспоживанням.
Останній пункт є важливим з огляду на те, що в той час як російський FPV-дрон «Штурм» є відносно великим, «Овод» залишається невеликим за розміром. Заяви про те, що бортові обчислення систем з елементами ШІ потребують великої потужності, слід брати до уваги при ретельному вивченні російських повідомлень, наведених вище. Зменшення необхідних обчислювальних і енергетичних вимог до існуючих дронів - це питання, яке активно намагаються вирішити і Сполучені Штати. Але ці зусилля випробовуються в ретельно спланованих експериментах, а не на полі бою, і не включають жодних кінетичних можливостей.
Інший контраст полягає в тому, що росія постійно демонструє зосередженість на мінімізації участі операторів безпілотників у бойових діях, і, можливо, виведення оператора FPV-дрона, з рівняння за допомогою штучного інтелекту є ключовим, враховуючи, що кожна сторона у цій війні зараз полює на операторів БПЛА як на пріоритетні цілі. Звичайно, важливо також враховувати, що не всі з описаних тут російських планів щодо FPV-дронів, оснащених елементами ШІ, в кінцевому підсумку з'являться на полі бою в їх нинішньому вигляді, оскільки поточні випробування і оцінка, ймовірно, призведуть до змін або навіть повного перепроєктування дронів. Водночас нещодавно з'явилися чутки про російські FPV-дрони, оснащені системою з елементами штучного інтелекту, на полі бою в Україні, хоча наразі важко довести такі твердження. Проте, зважаючи на доступність ключового програмного забезпечення та компонентів, які можна придбати за допомогою низки легальних чи нелегальних схем, російські плани приватного та волонтерського секторів щодо безпілотників зі штучним інтелектом можуть виявитися не такими вже й надуманими.
Хоча Директива 3000.09 Міністерства оборони США не містить прямої заборони на використання систем озброєнь зі штучним інтелектом без участі людини, не було жодних доказів того, що Америка прагне розвивати такі можливості. Project Maven використовує комерційні технології штучного інтелекту і безпілотників, але тільки для висновків, причому останні відбуваються на землі, а не на платформі. Smart Sensor Головного управління цифрових технологій і штучного інтелекту Міністерства оборони скасовує необхідність обробки даних на землі, ефективно виконуючи функції, які пов'язують збір і передачу інформації споживачам розвідданих через безпілотну платформу Reaper, готуючись до погіршених умов зв'язку з наземними станціями управління і операторами. Проте бачення полягає в тому, щоб просто допомогти людям у виконанні їхніх повсякденних завдань і переключити їх на наглядові функції, які потребують меншої кількості команд і контролю, а не замінити їх повністю.
Американська обережність
Сполучені Штати в основному прийняли довгостроковий погляд на роль ШІ в національній безпеці і в першу чергу вирішують проблеми, пов'язані з його впровадженням, починаючи з закупівель. Традиційна система закупівель, що характеризується повільними, лінійними процесами і передусім переймається питаннями справедливості та безпеки, не відповідає динамічним вимогам до систем з елементами штучного інтелекту. Головне управління цифрових технологій і штучного інтелекту продовжило свою програму закупівель Tradewinds, спрямовану передусім на розширення можливостей малого бізнесу в порівнянні з традиційними оборонними компаніями.
Додатковий фокус процесу був зосереджений на вирішенні проблем інтеграції даних, а не на створенні можливостей, готових до бою. Хоча об'єднане спільне командування і управління в усіх сферах залишається пріоритетом Головного управління цифрових технологій і штучного інтелекту, воно все ще зосереджене на оцифровуванні управління боєм, а не на впровадженні комерційних технологій безпілотників у військових операціях. Інтеграція ШІ із застарілими технологіями і забезпечення оперативної сумісності між різними родами військ і місіями, а також забезпечення базової функціональності і живучості нових технологій залишаються величезним викликом, що вимагає частих ітерацій і експериментів.
Проте, найбільшим обмеженням для Міністерства оборони в питаннях озброєння бійців системами зі штучним інтелектом залишається його нездатність задовольнити численні зацікавлені сторони, які використовують ці системи. Незалежне державне тестування технологій підрядників неодноразово доводило свою необхідність, але сьогодні брак інфраструктури, методологій, ресурсів і персоналу ставить під загрозу цю важливу функцію. На відміну від швидкого і безжального підходу росії до придбання і використання комерційних дронів, Сполучені Штати обрали обдуману і обережну стратегію, яка може виявитися недостатньою під час конфлікту. Що стосується традиційних оборонних технологій, то Сполучені Штати вже давно мають набір стандартів і регуляторних органів, які гарантують, що армія має на озброєнні системи, які є активом, а не зобов'язанням для бійця. Однак відсутність еквівалентів для ретельних випробувань, оцінки і гарантування систем з елементами штучного інтелекту може призвести до того, що армії будуть змушені обирати між використанням непевних систем і відмовою від них взагалі.
У Сполучених Штатах автономна або напівавтономна система озброєння, подібна до тієї, що сьогодні розгортається в росії, повинна пройти попередню розробку і перевірку перед розгортанням, згідно з Директивою 3000.09 Міністерства оборони про керівництво для автономних і напівавтономних збройних платформ. Ті, хто придбає цю систему, повинні будуть продемонструвати комісії, що вони мінімізували ймовірність і наслідки збоїв, які можуть призвести до ненавмисного застосування зброї. Це вимагатиме ретельних, ресурсомістких і багаторазових випробувань і оцінки технології, в тому числі оперативних і бойових випробувань.
Неухильне прагнення Америки до безпеки і захисту передбачає, що Сполучені Штати мають від трьох до п'яти років на розбудову згаданої інфраструктури, а також на випробування і доопрацювання систем зі штучним інтелектом. Якщо потреба в цих системах виникне раніше, що видається дедалі більш імовірним, стратегію необхідно буде скоригувати. Балансування між міркуваннями гарантій і нагальною потребою розгортання систем з елементами ШІ у військах є непростим завданням. Ще більшим викликом є оптимізація готовності в усіх сферах при одночасному збалансуванні інвестицій в традиційні і новітні технології. Проте, як ми бачимо, єдиним рішенням для підтримки як конкурентоспроможності в галузі ШІ, так і демократичних цінностей є непохитне пропагування, лідерство, спонсорство і інвестиції в усі аспекти забезпечення безпеки ШІ, як підкреслюється в нещодавній доповіді Національних академій наук, інженерії і медицини США.
Висновок
Війна в Україні підштовхує інновації з обох боків до межі, змушуючи супротивників адаптуватися і застосовувати новітні військові та цивільні технології для ведення бойових дій. Якщо у 2022 році Україна мала першість у таких інноваціях, то наприкінці 2023 - на початку 2024 року російська армія та волонтери наздогнали її, перейнявши багато подібних технологій та концепцій, при цьому пристосовуючи ці розробки до своїх потреб. Волонтерські спільноти в росії особливо уважно стежать за останніми технічними розробками, оскільки багато волонтерів походять з академічних кіл і сектору високих технологій і часто беруть участь у дослідженнях, розробці та збірці безпілотників у вільний від основної роботи час. Використання дронів у російсько-українській війні лише зростатиме, а FPV-дрони та невеликі квадрокоптери стають небезпечними технологіями в польових умовах у все більшій кількості. Забезпечення їхніх операцій штучним інтелектом є наступним логічним і технологічним кроком, який вже зробили обидві воюючі сторони.
Використання «доморощених» елементів ШІ, ймовірно, прискориться і може зробити війну з використанням дронів ще більш смертоносною. Тим часом, Міністерство оборони США набагато більше зосереджене на посиленні людей-солдатів, ніж на їх заміні. Воно застосовує виважений і продуманий підхід, орієнтуючись у тонкощах маневрування у великій існуючій бюрократичній системі та інфраструктурі. Коли є достатньо часу для вдосконалення такої системи, розробка стратегії на довгострокову перспективу може дати сприятливі результати. Однак, нагальне питання залишається відкритим: Яких заходів ми будемо готові вжити, якщо наша підготовка виявиться недостатньою, а час спливає?
Швидка інтеграція неперевірених комерційних технологій у військові операції, як це спостерігається в підходах, прийнятих росією і Україною, може не відповідати суворим стандартам, яких дотримуються Сполучені Штати. У світлі цього Вашингтону слід критично розглянути альтернативні стратегії. За нинішніх темпів Сполучені Штати цілком можуть опинитися перед вибором, і обидва варіанти можуть бути неприйнятними: брати на себе невідомі або некількісні ризики, розгортаючи системи зі штучним інтелектом, або вступати в конфлікт з переважно традиційними військовими системами, в той час як супротивники просуваються вперед, використовуючи перший варіант. Єдиний спосіб уникнути такого вибору - це терміново спрямувати керівництво, ресурси, інфраструктуру і особовий склад на забезпечення безпеки цих технологій. Оскільки багато хто в керівництві Міністерства оборони зараз чітко усвідомлює масштаби проблеми безпеки ШІ для відомства, фінансові асигнування Пентагону повинні відображати зобов'язання забезпечити технологічну перевагу, залишаючись при цьому вірними демократичним цінностям Америки.
