Відтоді як ChatGPT з’явився у 2022 році, генеративний ШІ швидко увійшов у наше робоче, навчальне та особисте життя, допомагаючи прискорювати дослідження, створення контенту та інші процеси з безпрецедентною швидкістю.
Захоплення інструментами генеративного ШІ зрозуміле: вони набирають популярності навіть швидше, ніж інтернет чи ПК. Але експерти застерігають — варто бути обережними. Як і будь-яка нова технологія, генеративний ШІ може дати потужний поштовх суспільству, але водночас здатен мати й негативні наслідки, якщо його не контролювати.
Одне з питань, яке варто собі ставити: що станеться з нашими інтелектуальними здібностями, якщо ми все частіше покладаємося на генеративний ШІ заради відповідей?
Нещодавнє дослідження MIT щодо використання ChatGPT для написання есе призвело до низки сенсаційних заголовків на кшталт: «Дослідники стверджують, що використання ChatGPT руйнує мозок» чи «ChatGPT може зробити вас ледачими та дурними». Чи справді це так?
Ваш мозок і генеративний ШІ
А ось що відбулося насправді: дослідники дали 54 студентам із Бостона завдання написати есе. Одна група використовувала ChatGPT, інша — Google (без ШІ), а третя мала писати лише «власним мозком». Під час роботи за допомогою електродів фіксували активність мозку.
Після трьох сеансів група, яка працювала без допомоги інструментів, показала найвищий рівень нейронної активності. А користувачі ChatGPT — найнижчий. Здавалося, ті, хто користувався ШІ, працювали «на автопілоті», тоді як інші мусили докладати більше зусиль, щоб сформулювати думки на папері.
У четвертому раунді ролі змінилися: «мозкова» група отримала доступ до ChatGPT, а група ШІ мала писати самостійно. Результат? Ті, хто вперше спробував ChatGPT, покращили свої есе, а колишні користувачі ШІ насилу пригадували навіть те, що писали раніше.
Загалом, за чотири місяці експерименту учасники, які працювали лише мозком, перевершили інші групи на нейронному, мовному та поведінковому рівнях. А ті, хто користувався ChatGPT, витрачали менше часу на написання, часто обмежуючись копіюванням і вставкою.
Вчителі, які оцінювали роботи, зазначили, що їм бракувало оригінальності та «душі». Звучить тривожно, чи не так? Але насправді все складніше, ніж подають сенсаційні заголовки.
Дослідження радше говорить не про «деградацію мозку», а про ментальні «короткі шляхи». Воно показує, що надмірна залежність від LLM знижує залученість. Але при усвідомленому, обдуманому використанні цих ризиків можна уникнути. Дослідники також наголосили: попри цікаві питання, які охоплює робота, вона занадто мала й проста, щоб робити остаточні висновки.
Смерть критичного мислення?
Хоча результати (які ще не пройшли рецензування) безумовно варті подальшого вивчення й осмислення, як ми маємо застосовувати ШІ в освіті, професії та особистому житті, можливо, наші мізки руйнують не ChatGPT, а заголовки, створені заради кліків.
Схоже, що й самі дослідники поділяють ці занепокоєння. Вони створили сайт із розділом FAQ, де закликали журналістів не вживати некоректних і сенсаційних формулювань. Іронічно, але «шум» вони пояснили тим, що репортери самі використали LLM для узагальнення статті. Дослідники додали: «Ваш ЛЮДСЬКИЙ відгук дуже вітається, якщо ви прочитали роботу чи її частину. Також нагадуємо: у дослідженні чітко вказано обмеження».
З цього дослідження можна зробити два безпечні висновки:
Необхідні подальші дослідження щодо використання LLM в освіті.
Студенти, журналісти та суспільство загалом повинні залишатися критичними до інформації, яку отримують — чи то від медіа, чи то від генеративного ШІ.
Дослідники з Вільного університету Амстердама занепокоєні: із зростанням нашої залежності від LLM під загрозою може опинитися саме критичне мислення, тобто здатність і готовність ставити під сумнів і змінювати соціальні норми.
«Студенти можуть втрачати схильність до глибоких пошуків, бо покладаються на авторитетний тон відповіді ШІ. Вони можуть рідше ставити під сумнів або навіть помічати замовчувані перспективи, не розуміючи, чиї погляди ігноруються та які непомітні припущення лежать в основі тверджень».
Ці ризики вказують на глибшу проблему ШІ. Коли ми сприймаємо відповіді як даність, можемо не помічати закладених упереджень і не перевіряти припущення. Вирішення цього потребує не лише технічних рішень, а й критичного переосмислення самого поняття «упередженість».
Соціальні норми та упередження не є сталими — вони постійно змінюються. Тоді як історичні дані, на яких ми навчаємо LLM, залишаються незмінними. Ми маємо залишатися критичними й ставити під сумнів інформацію, незалежно від того, отримуємо ми її від людей чи від машин, щоб будувати справедливе й рівноправне суспільство.
