Ми звикли, що ШІ помиляється. Але що, якщо найнебезпечніше, це коли він не помиляється? Коли його відповідь ідеально гладка, логічна і… красивіша за реальність?
В моїй роботі був показовий випадок. Я досліджувала опис двійної спіралі сходів в Шамборі, архітектурного шедевра, який приписують Леонардо да Вінчі. Я попросила ШІ описати ці сходи, і отримала відповідь, яка була детальною, впевненою і дивним чином переконливішою, ніж те, що існує насправді, - багате різьблення, орнаменти, декоративні елементи, дракони, міфічні звірі, усе те, що “має бути” в королівському мисливському будиночку того часу.
Проблема в тому, що реальні перила Шамбора це гладкий, майже аскетичний камінь.
Але найцікавіше відбулося не в самій помилці, а в моїй реакції на неї. Коли я відкрила фотографію, то зловила себе на дивному відчутті, ця проста кам’яна лестниця здалася мені неправильною. Наче помиляється не опис, а сама реальність.
І саме в цьому місці починає проявлятися те, що я умовно називаю когнітивним схлопуванням, хоча, можливо, справа навіть не в терміні, а в самому зсуві, коли завершена, гладка інтерпретація починає сприйматися більш “правильною”, ніж сирий, неоднозначний факт.
Ми часто говоримо про помилки ШІ, але проблема не в них. Проблема в його впевненій завершеності, у здатності зібрати з розрізнених фрагментів найбільш статистично ймовірний образ і подати його як цілісний.
Цікаво, що подібні ефекти вже фіксуються і в дослідженнях взаємодії з ШІ, навіть коротка робота з ним може змінювати ступінь залученості і відчуття авторства власних рішень (дослідження MIT Media Lab). Не тому, що люди “гірше думають”, а тому що сам процес мислення починає скорочуватися.
Моя гіпотеза тут досить проста і водночас тривожна, ШІ не робить нас дурнішими, він змінює траєкторію мислення. Ми починаємо рухатися не вглиб, а по поверхні, приймаючи готові форми швидше, ніж встигаємо їх перевірити або розгорнути. Ми стаємо слухняними споживачами готових відповідей, втрачаючи нагоду для власного, хоч і іноді незграбного, мислення.
І в якийсь момент це стає майже непомітним.
Ми використовуємо ШІ, щоб бути ефективнішими, виконувати краще, встигати більше, і паралельно боїмося, що він нас замінить, хоча внутрішньо кожен переконаний, що саме з ним цього не станеться. Але в цьому ж русі ми починаємо порівнювати себе з ним, по швидкості, точності, здатності до аналізу, тобто за тими критеріями, які самі ж і вклали в систему.
І автоматично програємо, просто тому що це зовсім не наша гра.
AI добре відтворює. Але мислення людини, це не відтворення. Це здатність утримувати можливість іншого ходу, навіть якщо він ще не оформлений і виглядає менш переконливо, ніж готова відповідь.
І якщо ми відмовляємося від цього заради швидкості і зручності, питання вже не в тому, чи замінить нас ШІ. Питання в тому, чи не почали ми самі поступово відмовлятися від того, в чому з ним взагалі немає сенсу конкурувати. Навіть, якщо це ми робимо півсвідомо.
