(Смішна та водночас моторошна ода сучасному вебу, де люди стали меншістю, а штучний інтелект вчиться на власних помилках, перетворюючи мережу на цитатник абсурду.)
Тіньова війна у віртуалі: Коли мережа починає скиглити
Останнім часом у Мережі відбувається щось дивне, майже сюрреалістичне. Відчуття, наче з інтернету поволі, але впевнено висмоктують життя, як вампір із чергової конспірологічної теорії. Замість очікуваної дози позитиву, ми отримуємо змішані емоції та дедалі більше ознак того, що наш улюблений «нет» перетворюється на звалище однакових аватарів, схожих обговорень та коментарів, що повторюються як мантра на різних сайтах.
Звісно, ще декілька років тому твердження про те, що «інтернет мертвий», вважалося невдалою конспірологічною маячнею. Але сьогодні це активно набирає прихильників. Хоча, якщо 15 років тому інтернет був «цікавим та навіть ламповим місцем», то сьогодні ситуація кардинально змінилася. І ми говоримо не лише про фейкові соцмережі та філософію хизування матеріальними благами. Мова про те, що в мережі немов протікає тіньова війна, яка відстоює думку меншості, користуючись більшістю.
Бото-апокаліпсис: «Дякую за вашу працю» - нова світова валюта
Якщо ви раніше знаходили друзів по листуванню (тих, кого ви ніколи не зустрінете в реальності) і підтримували з ними довготривалий зв'язок, то сьогодні реальність така, що ці «друзі» можуть виявитися банальними ботами.
І ось тут починається найсмішніше (або найстрашніше): у 2024 році цілих 51% світового трафіку припадає на ботів! Це офіційна статистика, видана американською компанією Imperva у 2023 році. Вперше в історії неживий трафік перевищує людський!
Подумайте лише: кожен другий "користувач" - це код, а не людина!
З цього критичного 51% цілих 34% - це зловмисні боти, які використовуються для спекуляцій, махінацій та кібератак. Лише 14% - так звані корисні боти. Компанія Cloudflare вторить цій статистиці, стверджуючи, що:
«Теорія мертвого інтернету більше не є теорією».
Ця теорія, що з’явилася у 2021 році на одному з форумів, стверджувала, що Мережа померла ще у 2016-му, і ми просто все «проскролили». З того часу мережу нібито навмисно наповнили ШІ, який імітує людську діяльність, а справжній інтернет перетворився на ілюзію, мета якої - відволікати нас від важливих речей. Звучить як сюжет науково-фантастичного фільму 90-х, чи не так?
Навіть керівник ШІ Sora, Сем Альтман, хоч і не сприймав це серйозно, визнав:
«здається, що сьогодні є дійсно ціла купа акаунтів ботів Twitter і це проблема глобального масштабу».
А тепер додайте трохи місцевого колориту. Навіть на українському YouTube вже багато років певні персонажі активно використовують ботоферми для просування відео та контролю суспільної думки. Як їх впізнати? Легко! Вони всі пишуть одну й ту ж мантру в коментарях: «Дякую за вашу працю». І ця «маячня» роками стікає стінами YouTube у канаву, але всі її ігнорують.
Сьогодні боти стали куди розумнішими. Вони можуть самостійно вести блоги, генерувати аватарки і повноцінно імітувати життя онлайн. Деякі з них мають безліч підписників, що автоматично змушує нас вірити в їхню справжність. І всі вони слідують вказівкам свого «лорда», висвітлюючи вигідну соціальну думку.
Куди нас веде Цукерберг, або «Печений гарбуз на лопаті»
Якщо вам здавалося, що боти - це проблема, то тримайтеся: штучний інтелект, який генерує контент, вже перетнув позначку катастрофи. Минулорічне дослідження Amazon показало, що цілих 57% контенту в інтернеті генерується штучним інтелектом. Після релізу Sora та подібних інструментів цей показник має суттєво зрости.
Сем Альтман попереджає: інтернет може стати мертвим вже за три роки, якщо ШІ продовжить вчитися на готових матеріалах без дозволу авторів. Хоча Open AI і отримала не один судовий позов через це, «справа зайшла так далеко, що й вороття вже немає».
Але замість нескінченно розумного ШІ, ми можемо отримати дещо комічне: «печеного гарбуза на лопаті». Чому? Тому що вільні ресурси для навчання ШІ закінчуються, і моделі дійшли до так званої «межі знань». Вони спираються на достовірні джерела, але цих достовірних джерел в Мережі щодня стає менше через... тих самих ботів та ШІ!
Штучний інтелект вже давно створює контент, але тепер він робить це масштабніше і реалістичніше. Уявіть собі: згенерований контент спирається на людський, перевірений контент, але згенерованого контенту стає стрімко більше, а разом із ним - кількість неточностей та брехні. Це означає, що ШІ бере відповіді з невірних джерел, створених іншим ШІ.
ШІ-зомбі та етичні зміщення
Виявляється, низькоякісний контент погано впливає не лише на наш мозок, але й на ШІ! Наукові дослідження показують, що споживання «тупого, вірусного та примітивного» контенту негативно впливає на наші когнітивні здібності та концентрацію. Ідентичний вплив має цей контент на ШІ:
Якщо ШІ навчатиметься на небажаному контенті, його розуміння контексту знижується з 80% до 50%.
Це спричиняє зміщення особистості моделі, після чого вони схильні генерувати неправильні відповіді та поспішати, роблячи помилки.
Тобто, чим більше контенту генерується ШІ, тим він не лише більш відірваний від реальності, а ще й більш небезпечний для самого себе. Штучний інтелект може знищити сам себе, ставши плацдармом для неправильної робочої активності. Еволюція чи самознищення? Поки неясно.
Порятунок рядового Інтернету
Як вижити у світі, де нічому не можна довіряти? Співзасновник Reddit Алексіс Оганян вважає, що значна частина інтернету вже мертва, і пропонує радикальне рішення: поява нового типу соціальних мереж - виключно для людей, котрі будуть перевірено людськими.
Марк Цукерберг, щоправда, має інші плани. Він взагалі хоче замінити програмістів своєї компанії на ШІ-програмерів, які будуть «ішачити 24х7». Цукерберг заявляє, що таким чином вони хочуть зробити ШІ-програміста середнього рівня, на якому заощаджуватимуть 500 000 доларів на рік (річну зарплату реального програміста). Дивлячись на те, як часто ШІ любить помилятися, не позаздриш Meta!
Тим часом, світ починає реагувати. Багато компаній працюють над інструментами, які не дозволять ШІ вчитися на їхніх матеріалах. Cloudflare вже створила такий інструмент, зробивши його безкоштовним.
Але найрадикальніші ідеї надходять з Великої Британії, де вже запропонували заходити в інтернет лише... по паспорту через спеціальний сайт. Це може призвести до створення контрольованого «локального інтернету» - своєрідних «островів» з людьми, де не буде ШІ, на які треба буде заходити через низку перевірок.
Якщо ж світ не візьме це під контроль, інтернет перетвориться на «дуже небезпечне місце, в котрому важко буде не лише відділити правду від брехні, але й зрозуміти, що реальне, а що ні». Автоматично згенерований контент повністю перевищить людський, а згенеровані відповіді будуть відірвані від реальності.
Світ стоїть на роздоріжжі: або це неминуча і непередбачувана еволюція інтернету, або ми повинні повернути мережу людям.
Хто знає, можливо, навіть цей текст написав не я, а дуже ввічливий бот, який чекає на коментар: «Дякую за вашу працю»?
