Україна запускає державний ШІ-аватар: які виклики це створює?

Її звуть Вікторія ШІ . Це GenAi модель типу text-to-avatar,  тобто її основними “повноваженнями” будуть переклад різними мовами й зачитування заяв Міністерства закордонних справ. Це не буде персоналізовано, а відображатиме загальну позицію міністерства, яку раніше озвучували речники:

По-перше, це заощадить час уповноважених осіб на роз'яснення інформації для громадськості.

По-друге, відео міститиме QR-код з текстовою версією заяви МЗС, що, своєю чергою, є кроком у боротьбі з дезінформацією.

Також міністерство розпочало розробку навчальних дата-сетів для підготовки українських дипломатів до переговорів.

Детальніше про це можна прочитати тут:
Пос. 1
Пос. 2

Заяви МЗС, як і будь-якого іншого міністерства, зазвичай наповнені юридичним штампами та нейтральними формулюваннями, що вже ускладнює їх співвіднесення з особистими проблемами громадян. Чи вирішує новий аватар цю проблему?  Звісно, що ні. Чи ускладнює її? Можливо. Комунікація між суспільством і державними органами вимагає двох аспектів: прозору налагоджену вертикаль, та сталий рівень довіри суспільства. Тому впровадження “синтетичної людини” може загострити ці питання.

Більшість населення України досі не розуміє, як працюють системи штучного інтелекту і чому це не SKYNET з “Термінатора”,  що може призвести до певного розриву у вертикалі комунікації між державними інститутами та громадськістю і, в певному сенсі, знизити рівень прозорості через відсутність “живої людини”.

Зазначимо також, що ШІ-аватари - явище не нове, наприклад, у нас є сервіси зі створення персональних AI-аватарів для комерційного використання, такі як Uneeq або DeepBrain AI. Зазвичай вони або запрограмовані на виконання певних дій (наприклад, заскриптовані відповіді на популярні запитання), або мають певний ступінь автономності (взаємодія з персональними запитами в режимі реального часу). Uneeq навіть відтворив образ Альберта Ейнштейна, щоб люди могли більш яскраво познайомитися з цією видатною постаттю. Також, ще у 2018 році в Китаї запровадили використання аватарів зі штучним інтелектом для зачитування новин. Існують навіть аватари, схожі на тамагочі, такі як Replika, про небезпеку яких я писав тут

Але навіть з таким широким потенціалом для використання, ми все ще не бачимо їх у мейнстримному застосуванні. Проблема криється у сприйнятті масами цих аватарів зі штучним інтелектом. Попри їхню автономність і можливу переконливість, вони небезпідставно сприймаються як “штучні”, що ставить під сумнів їхню достовірність як джерел інформації. Довіра - це питання не технічне, а психологічне, тобто на рівні підсвідомості. А підсвідомо ми не сприймаємо ШІ як більш компетентний, не дивлячись на всі наявні викривлення антропоморфізації системи ШІ, а тому довіряємо йому менше. 

Проте будь-який технологічний розвиток призводить до певної необхідності переорієнтації, а отже, уникнути “проблем” неможливо. Ставити питання, подібні до наведених вище, необхідно для того, щоб зафіксувати статус-кво щодо інновацій та сформувати наші майбутні очікування від впровадження ШІ у політичне чи повсякденне життя.

Додатковий матеріал про кейси використання AI-аватарів .