Користувачі говорять, що функція AI Overview від Google видає неправильні відповіді швидше, ніж будь-коли.
Ділимося колонкою Кайлі Робісон, репортерки з питань штучного інтелекту, яка працює з політичною та технічною командами The Verge.
Уявіть собі: ви викроїли вечір, щоб приготувати домашню піцу. От піца вже зібрана і в духовці, а ви з нетерпінням чекаєте, коли ж можна буде приступити до їжі. Та як тільки ви готуєтесь відкусити шматочок, то стикаєтесь з проблемою — сир одразу ж падає. Розчаровані, ви звертаєтеся до Google за рішенням.
«Додайте трохи клею», — відповідає Google. «Змішайте приблизно 1/8 склянки клею Elmer's з соусом. Нетоксичний клей підійде».
Так, це робити не варто. Однак на момент написання цієї статті саме це вам скаже нова функція Google AI Overview . Ця функція сканує Інтернет і видає відповідь, згенеровану штучним інтелектом. Відповідь, отримана на запит про клей для піци, схоже, заснована на коментарі користувача на ім'я «fucksmith» у більш ніж десятирічній гілці Reddit, і тоді він явно пожартував.
Це лише одна з багатьох помилок, що з'являються в новій функції, яку Google запустив цього місяця.
У ній також стверджується, що колишній президент США Джеймс Медісон закінчив Університет Вісконсіна не один раз, а 21 раз, що собака грав у НБА, НФЛ і НХЛ, а Бетмен - поліцейський.
Прес-секретар Google Меган Фарнсворт заявила, що помилки були спричинені «загалом дуже рідкісними запитами, які не є репрезентативними для більшості людей». За її словами, компанія вжила заходів проти порушень своєї політики і використовує ці «поодинокі приклади» для подальшого вдосконалення продукту.
Послухайте, Google не обіцяв, що все буде ідеально,
і навіть ставить позначку «Генеративний ШІ є експериментальним» внизу відповідей ШІ. Але очевидно, що ці інструменти ще не готові надавати точну інформацію в широких масштабах.
Візьмемо, наприклад, великий запуск цієї функції на Google I/O. Демонстрація була дуже продуманою, і все ж вона дала сумнівну відповідь про те, як полагодити заїдання плівкового фотоапарата.
Не лише Google: такі компанії, як OpenAI, Meta та Perplexity, стикалися з галюцинаціями та помилками штучного інтелекту. Однак Google — перша компанія, яка розгорнула цю технологію в такому великому масштабі, і приклади невдач не припиняють надходити.
Компанії, що розробляють штучний інтелект, часто поспішають уникнути відповідальності за свої системи,
використовуючи підхід, схожий на підхід батьків до неслухняної дитини - хлопчики є хлопчики! Ці компанії стверджують, що вони не можуть передбачити, що цей ШІ видасть, тож насправді це поза їхнім контролем.
Але для користувачів це проблема. Минулого року Google заявив, що штучний інтелект — це майбутнє пошуку.
Але який у цьому сенс, якщо пошук здається дедалі тупішим, ніж раніше?
Оптимісти стосовно ШІ стверджують, що ми повинні прийняти тимчасові похибки і вірити, що інструмент продовжуватиме вдосконалюватися. Я справді вірю, що так і буде, але зосереджуватись на ідеалізованому майбутньому та ігнорувати суттєві проблеми, з якими ми стикаємося зараз, означає дозволяти компаніям впроваджувати неякісні продукти.
Багато ідеалістів вважають, що ми стоїмо на порозі чогось великого, і що ці проблеми — це всього лише перші кроки технології, яка тільки зароджується. Я дуже сподіваюся, що вони мають рацію. Але одне можна сказати напевно: ми, швидше за все, скоро станемо свідками того, як хтось намазує свою піцу клеєм — тому що така природа інтернету.
iSIGHT — медіаплатформа про ІТ, бізнес та професійне зростання. Instagram / YouTube / Telegram
