А я ж коли публікував Якщо ви вірите в розумність «штучки-інтєлєкт» — напряжіться і витратьте п’ять хвилин на те, шоб запитати про те, в чому хоч трошки шарите самі казав, що це затравка під щось красиве і от маєте - Bag of words, have mercy on us, новенький переклад чудового Adam Mastroianni
Цейво, я канєшно не знаю, чи штучка-інтелект одного дня вирішить знищити нас, чи навпаки озолотить, як та антилопа, чи ще щось — але, що я точно знаю: з метафорою ми точно дали в штангу.
Ми намагаємося асоціювати і сприймати ці штуки як людей. Коли пишеш якесь запитання до ChatGPT, а він відповідає повними реченнями — здається, що десь там усередині сидить маленький Пратчеттівський бісик і набирає розумний текст. У нас виникає це гостре відчуття "воно живе!!", і автоматично вмикаються всі ті ж ментальні механізми, які ми виробили для спілкування з іншими людьми: Модель психічного стану людини, атрибуція, управління враженням, стереотипізація, виявлення обманщиків тощо.
Нічо не поробиш — люди по природі своїй невиліковні антропоморфізатори. Коли справа доходить до сприйняття особистості, ми такі швидкі на судження, що можемо побачити Діву Марію в смаженому сирному сендвічі:
Чи людське обличчя у зрізі нематоди:
Чи старий чоловік з мішанини птиці і риби на купі книг:
Мабуть, у нашій еволюційній історії це було збіса корисно — можливо, нам дійсно було важливо не плутати людей із речами, що ми схильні помилятися в інший бік: плутати речі з людьми.
Класичною демонстрацією цього є відео Гайдера та Зіммеля 1944 року, де неминуче виникає відчуття, що трикутники та коло "розумні".
Мабуть, саме тому ми так охоче пояснюємо дивні події, апелюючи до фантастичних істот: всі у місті хворіють через ВІДЬОМ, сонця не видно, бо ВОВК ЙОГО З'ЇВ, вулкан вивергається, бо БОГ ГНІВАЄТЬСЯ. Люди, які переживають сонний параліч, іноді галюцинують демоноподібну істоту, що сидить у них на грудях — і одне з пояснень таке: підсвідомість намагається зрозуміти, чому тіло не рухається. Замість висновку «я ще у ві сні, і в мозку не вистачає ацетилхоліну для активації первинної моторної кори» вона видає: «ВЕЛИКИЙ ДЕМОН ВСІВСЯ НА МЕНІ ЗВЕРХУ».
Саме тому останні три роки були такими бентежними — маленький бісик штучки-інтелект раз по раз нас дивує, роблячи те, чого жодна нормальна людина б не зробила. Чому він вигадує неіснуючі джерела, коли робить мій домашній реферат із суспільствознавства? Як він може обіграти мене в Ґо, але не може сказати мені, скільки букв "р" у слові "strawberry"? Чому він радить мені додати клей у піцу?
Зверніть увагу, що новіші моделі штучного інтелекту вже не роблять подібних помилок так часто, як навіть рік тому, що є ще однією дивно нелюдською рисою. Якби реальна людина сказала мені намазати піцу клеєм, я, мабуть, більше ніколи їй не довіряв би.
Намагатися зрозуміти великі мовні моделі за правилами людської психології — це як намагатися зрозуміти партію в Скрабл за правилами гри в шахи. Ці штуки не поводяться як люди, бо вони й не є людьми. Я маю на увазі не те зневажливе «не людина», яке мають на увазі скептики ШІ. Вони вважають, що відмовляти машинам у людяності — це заслужена образа. Я ж вважаю, що це просто точний опис того як це є. Власне, саме ненависть до цих штук і наділяє їх людяністю. Найбільшу ненависть ми завжди приберігаємо для таких же людей, як ми самі. Доки ми намагатимемося застосовувати до штучного інтелекту наше сприйняття особистості — ми будемо дивуватися і ловити непозбуну бентегу знову й знову.
Нам вкрай потрібна краща метафора. Ось моя пропозиція: замість того щоб бачити в ШІ якогось кремнієвого гомункула, варто бачити в ньому просто торбинку зі словами.
🟠 Донат? Донат!
Доки ми тут, то принагідно нагадую, що задонатити це не тільки чудова ідея, що береже сон, покращує травлення і робить волосся блискучим, а ще й наш обовʼязок, бо в нас є тільки ми.
🛸 Дронопад | 🔪 RUSORIZ | 🫶 “АЗОВ.ONE”
Ну, а вдруг ти вже задонатив, то завжди можеш закинути кілька грибнів на підтримку проекту
♥️ на кохве з курасаном класового розриву
Тож що в торбинці?
ШІ — це торбинка, торбинка що містить практично всі написані коли-небудь слова, принаймні ті, що вдалося на мишу зіскребти з інтернету або відсканувати з книжок. Коли користувачі кидають слова в торбинку, вона повертає найбільш релевантні. Слів у торбинці так багато, що найрелевантніші часто виявляються правильними й корисними, а компанії, що займаються ШІ, таємно додають невидимі доповнення до ваших запитів, щоб це траплялося ще частіше.
Звісно, це нормальне таке спрощення. Але напрочуд зручне. Наприклад, ШІ регулярно видає відверту брехню або галюцинації, і коли ви кажете: «Ей, це ж була дурня», він одразу відповідає: «О Боже, ВИБАЧТЕ!! Обіцяю, більше ніколи!! З цієї миті — тільки правда!» — а потім у наступному реченні знову бреше. Від людини така поведінка була б приголомшливою і дратівливою. Але для мішка слів — цілком нормальна. Якщо кинути в торбинку запитання, а правильна відповідь там є — ви її, мабуть, і отримаєте. Якщо немає — отримаєте якийсь рядом лежащий, але абсолютно неточний клубок речень на задану тематику. Коли ви звинувачуєте його у брехні, він видає купу слів із внутрішнього розділу «мене звинуватили в брехні». Називати таку поведінку «зловмисною» або «непередбачуваною» — оманливо, бо це взагалі не поведінка, так само як це не «поведінка» калькулятора, коли той множить числа. «Торбинка слів» — також корисна евристика для прогнозування, де ШІ впорається, а де провалиться. «Дай мені список десяти найгірших транспортних катастроф у Північній Америці» — легке завдання для мішка слів, бо катастрофи добре задокументовані. Натомість «Хто переніс вид Brachiosaurus brancai до окремого роду і коли?» — це складне завдання для мішка слів, бо слів на цю тему в мішку просто замало.
А на запитання «Які найважливіші речі в житті?» ви не отримаєте відвертої брехні, але отримаєте купу глибокодумної води — бо більшість текстів, що їх люди написали на цю тему, є, без образ, саме глибокодумним пустослів'ям.
Коли забуваєш, що ШІ — це просто великий мішок слів, легко починаєш ставитися до нього як до всевидящого згустку чистого інтелекту. Наприклад, нещодавно я тусувався з компанією, де один хлопець змусив усіх дивитися відео з фокусником, і після того, як той змусив монети зникнути, вигукнув: «Я запитав у ChatGPT, як цей фокус працює, — і навіть він не знав!»(фу, хочеться прям бити ломакою людей, які так роблять) — ніби це робило магію ще магічнішою. У його картині світу ми всі — як нерозумні середньовічні селяни, а ШІ — це наш Рабі Гілель, єдина вчена людина на сто миль навкруги. Якщо Гілель не знає — значить, це справді щось глибоке! Якби цей хлопець натомість бачив у ChatGPT мішок слів, він би зрозумів: у мішку, мабуть, немає детальних описів сучасних фокусів з монетами. Адже фокусники заробляють виступами та продажем своїх трюків, а не розлогими публікаціями про них в інтернеті. До того ж фокуси важко описати словами — «У нього в руці було три четвертака, а потім стало два центи!» — тож витягнути з мішка потрібні слова буде непросто. Фокус з монетою — не магія. І торбинка слів — теж.
GALILEO GPT
Метафора «мішка слів» також допомагає передбачити, що ці штуки робитимуть далі. Хочете знати, чи стане ШІ кращим у чомусь — просто запитайте: «чи можна докинути ще інформації про це в торбинку?» Наприклад, дедалі частіше обговорюють ідею, що ШІ замінить учених. Що ж, якщо хочете, щоб ваша торбинка слів займалася наукою за вас, треба напхати туди науки. Чи можна це зробити?
Щодо конкретних наукових завдань — так, ми вже можемо. Якщо заповнити торбинку даними про 170 000 білків, він досить непогано передбачатиме, як білки згортаються. Наповніть торбинку хімічними реакціями — і він скаже вам, як синтезувати нові молекули. Наповніть торбинку науковими статтями, опишіть експеримент — і він скаже вам, чи хтось уже вас випередив.
Усе це круто, і я чекаю більшого в майбутньому. Гадаю, ми недалеко від того, щоб торбинка слів могла виконати цілий низькоякісний науковий проєкт від початку до кінця — висунути гіпотезу, спроєктувати дослідження, провести його, проаналізувати результати, написати висновки, зробити графіки, розмістити все на постері — одним натисканням кнопки. Адже низькоякісної науки, яку можна покласти в мішок, у нас вдосталь. Пройдіться стендовими сесіями на психологічній конференції — і побачите купу аспірантів першого року, які нібито навмання обирають якісь напівпов'язані конструкти, кореляють їх і роздруковують («Чи модерує самоефективність зв'язок між орієнтацією на соціальне домінування і переконаннями, що виправдовують систему?»). Торбинка слів фактично вже може це робити — вам лише потрібен доступ до онлайн-пулу учасників і великий принтер(Або ж ви можете заощадити час і гроші, дозволивши штучному інтелекту самостійно створювати дані, що є шанованою часом традицією в цій галузі.)
Але справжня наука — це складна задача; якби ми виробляли в мільйон разів більше поганої науки, ми залишилися б там, де є. Якщо хочемо більше хорошого — що ж тоді класти в торбинку?
Можна наповнити торбинку статтями, але деякі з них — фальсифікації, деякі просто помилкові, і всі без винятку містять незадекларовані припущення, які можуть виявитися хибними. До того ж у них зазвичай бракує ключової інформації — дані не публікуються, або методи описані недостатньо детально. Маркус Штрассер, підприємець, який намагався заснувати одну з тих компаній у стилі «закинемо всі наукові статті в торбинку, а потім чарівне вуаля??? і профіт», зрештою відмовився від цієї ідеї, зазначивши, що «майже нічого з того, що реально рухає науку вперед, не опубліковано у вигляді тексту в мережі».*
*Це було написано у 2021 році, тож технологія штучок-інтєлєкт з того часу значно покращилася. Але навіть найкраща торбинка у світі не дуже корисна, якщо у вас немає потрібних речей, щоб покласти їх всередину.
Ось один спосіб поміркувати про все це: якби в 1600 році було достатньо тексту, щоб навчити велику мовну модель, чи випередила б вона Галілея? Гадаю, що ні. Запитайте того ранньомодерного ChatGPT, чи рухається Земля, — і він люб'язно розповість вам, що експерти розглядали таку можливість і відкинули її. І насправді це так і задумано. Якби вона раптом заявила, що наша планета мчить крізь простір зі швидкістю 108 000 км/год, її сумлінні людські тренери покарали б її: «Погана машина!! Припини галюцинувати!!"
Насправді мішок слів початку 1600-х мав би не просто правильні слова в неправильному порядку. На той час правильних слів просто не існувало. Як зазначає історик науки Девід Вуттон, коли Галілей намагався описати своє відкриття супутників Юпітера, жодна з відомих йому мов не мала гарного слова для поняття «відкрити». Йому доводилося вдаватися до незграбних описових зворотів на кшталт «я побачив дещо, невідоме всім попереднім астрономам до мене». Концепція пізнання нових істин через скляну трубку була б абсолютно чужою для великої мовної моделі початку 1600-х — так само, як і для більшості людей того часу, за кількома помітними винятками.
Від торбинки слів версії 2025 року ви імовірно отримаєте кращі наукові описи, ніж від торбинки слів версії 1600 року. Але обидві торбинки можуть бути однаково безглуздими для створення майбутніх наукових ідей. Наукові прориви часто вимагають дій, ірраціональних і нерозумних за мірками свого часу, а хороші ідеї зазвичай виглядають дурацькими при першій появі, тому їх часто — і небезпідставно! — відкидають, відхиляють і ігнорують. Це велика проблема для торбинки слів, що містить усі вчорашні хороші ідеї. Додавання нових ідей у торбинку часто погіршуватиме його середню розумність, бо більшість нових ідей виявляться хибними. Ось чому революційні дослідження вимагають не лише розуму, а й дурості. Я все ж очікую, що люди залишатимуться корисно "дурнішими" за штучку-інтєлєкт принаймні у ближчому майбутньому. Хороші ідеї мають властивість виглядяти дурацькими при першій своїй появі.
КЛОДЕ, ПОТАНЦЮЄМО?
Найважливішим аспектом метафори «торбинки слів» є те, що вона не дозволяє нам розглядати ШІ крізь призму звичного нам людського соціального статусу. Наші предки мусили достатньо вправно грати в ігри зі статусністю/статечністю, щоб вижити й продовжити рід — адже невдахи, як правило, не мають можливості передати свої гени нащадкам. Це зробило наш вид надзвичайно чутливим до того, хто нагорі, а хто внизу. Відповідно, ми можемо перетворити будь-що на змагання: катання сиру, поїдання кропиви, кидання телефонів, боротьбу на пальцях ніг та «феррет-легінг», де чоловіки-учасники, без нижньої білизни, тримають живих тхорів у своїх штанях так довго, як тільки можуть. (Світовий рекорд становить п’ять годин і тридцять хвилин.)
Коли ж ми персоніфікуємо ШІ, ми помилково робимо його конкурентом у наших іграх за статус. Ось чому ми сперечаємося про штучний інтелект, наче це нова учениця в школі: вона класна? Вона розумна? Вона в мене закохалася? Чим кращими стають ШІ, тим більше ми переймаємося своїм статусом. Якщо ці штуки схожі на людей, то ми мусимо знати: ми кращі за них чи гірші? Чи стануть вони нашими господарями, нашими суперниками чи нашими рабами? Чи їхнє мистецтво вишуканіше, їхні оповідання досконаліші, їхні інтуїтивні висновки розумніші за наші? Якщо так, то є лише один логічний кінець: зрештою, ми мусимо або вбити їх, або поклонятися їм.
🟠 Донат? Донат!
Доки ми тут, то принагідно нагадую, що задонатити це не тільки чудова ідея, що береже сон, покращує травлення і робить волосся блискучим, а ще й наш обовʼязок, бо в нас є тільки ми.
🛸 Дронопад | 🔪 RUSORIZ | 🫶 “АЗОВ.ONE”
Ну, а вдруг ти вже задонатив, то завжди можеш закинути кілька грибнів на підтримку проекту
♥️ на кохве з курасаном класового розриву
Але торбинка слів — це не дружина, не мудрець, не правитель і не кріпак. Це інструмент. Його призначення — автоматизувати нашу рутинну роботу та розширити наші можливості. Його соціальний статус — «немає, відсутній, не існує такого»; немає сенсу запитувати, чи він «кращий» за нас. Справжнє питання полягає в іншому: чи робить нас кращими його використання?
Ось чому я не боюся, що мішок слів зробить мене застарілим. Машини вже зрівнялися з людьми або перевершили їх у виконанні різноманітних завдань. Машина для подачі м’ячів може кидати м’яч швидше, ніж людина, перевірка орфографії завжди вказує на помилки в писанині, а автотюн ніколи не співає фальшиво.
Але ми не ходимо на бейсбольні матчі, конкурси з правопису та концерти Тейлор Свіфт заради швидкості м’ячів, точності правопису чи чистоти звучання. Ми ходимо, бо нам не байдуже, що ці речі роблять люди. Було б нецікаво дивитися, як це робить бісик з табакерки — хіба що ми помилково почнемо ставитися до нього неначе до людини.
(Саме тому я не бачу сенсу використовувати ШІ, скажімо, для написання есе, так само як не бачу сенсу брати з собою в спортзал домкратик. Звісно, він може піднімати вагу, але я ж не намагаюся тримати штангу над підлогою просто так. Я піднімаю її, бо хочу стати людиною, яка здатна це робити. Так само я пишу, бо хочу стати людиною, яка вміє мислити.)
Але це не означає, що я зовсім не боюся ШІ. Я боюся і блін дуже боюся! Будь-який інструмент може бути небезпечним, якщо його використовувати неправильно — цвяхові пістолети та ядерні реактори цілком можуть вбивати людей, не маючи при цьому власного розуму. Насправді метафора «торбинки слів» чітко показує, що ШІ може бути небезпечним саме тому, що він діє не так, як люди. Небезпеки, з якими ми стикаємося від людей, є страшними, але звичними: запальні люди можуть дати вам копняка під зад, безвідповідальні люди можуть сідати за кермо напідпитку, а підступні люди можуть прикидатися вашими друзями, щоби напакостити вам. Ми можемо захиститися від таких людей, бо знаємо, як вони діють. Але ми не знаємо, що вийде з торбинки слів. Наприклад, якщо показати людям комп’ютерний код із вразливостями безпеки, вони не почнуть раптом вихваляти Гітлера. А великі мовні моделі — так. Тож так, я б хвилювався, кладучи ядерні коди в незрозумілу торбинку.
Ну давай вже, клята чортопхайко
Кожен, хто мав стару машину, хоч раз відчував спокусу сприймати її різні несправності як частину її «характеру». Коли вона не заводиться в холодний день, здається, що правильною реакцією буде благати її, так само, як ти б благав сонного малюка чи запізнілого партнера: «Давай, Берті, нам треба до стоматолога!» Але зрештою, людські емоції — поганий порадник у справах технічного обслуговування автомобіля. Автомобілі зроблені з металу та пластику, які перетворюють бензин на рух вперед; вони не зроблені з кісток та м’яса, які перетворюють тістечка «Твінкі» на мислення. Якщо ви хочете полагодити зламану машину, вам потрібні гайковий ключ, викрутка та схема, а не посібник з когнітивно-поведінкової терапії.
Так само, кожен, хто бачить розум у «торбинці слів», вже потрапив у пастку. Їхню еволюцію використали проти них. Їхні соціальні інстинкти спрацьовують не тому, що перед ними стоїть людина, а тому, що природний відбір налаштував ці інстинкти на миттєву реакцію. Протягом усієї історії людства те, що говорило як людина і ходило як людина, насправді було людиною. Незабаром те, що говорить і ходить як людина, може, насправді, виявитися дуже складною логічною регресією. Якщо ми дозволимо собі спокуситися поверхневою схожістю, ми закінчимо як метелики, які еволюціонували, щоб орієнтуватися за світлом місяця, лише для того, щоб опинитися притягнутими — і, зрештою, ураженими струмом — таємничим сяйвом приладу для знищення комах.
Однак, на відміну від метеликів, ми не прив’язані до інстинктів, які нам дав природній відбір. Ми можемо обирати схеми, за якими ми мислимо про технології. Ми вже робили це раніше: ми не називаємо екскаватор «штучним хлопцем, що копає», а кран — «штучним високим хлопцем». Ми не вважаємо книги «штучною версією когось, хто з вами розмовляє», фотографії — «штучними візуальними спогадами», а прослуховування записаного звуку — «відвідуванням штучного концерту». Коли з’явилися кишенькові калькулятори, вони вже були розумнішими за будь-яку людину на Землі, принаймні в плані обчислень — роботи, яку раніше виконували люди. Люди задавалися питанням, чи є ця нова технологія «інструментом чи іграшкою», але, здається, ніхто не замислювався над тим, чи є вона людиною.
(Якби ви обтягнули екскаватор шкірою, зробили його ковш схожим на руку, намалювали очі на його шасі та налаштували так, щоб він видавав звук на кшталт «хннннн!» щоразу, коли підіймає щось важке, то ми б почали замислюватися, чи не сидить у цій машині привид. Це б нічого не сказало нам про екскаватори, але багато що про нашу власну психологію.)
Первородним гріхом штучного інтелекту, звісно, було те, що його назвали саме «штучним інтелектом». Ці два слова спонукали нас зробити людину мірилом машини: «Тепер вона розумна, як студент бакалаврату… тепер вона розумна, як доктор наук!» Такі порівняння лише створюють ілюзію розуміння можливостей та обмежень ШІ, а також наших власних, адже ми насправді не знаємо, що взагалі означає бути розумним. Наші визначення інтелекту або неправильні («Інтелект — це здатність вирішувати проблеми»), або тавтологічні («Інтелект — це здатність робити речі, що вимагають інтелекту»).
Навіть саме слово «штучний» є неправильним, адже воно загрозливо натякає на заміну. Штучні підсолоджувачі, квіти, ноги — це речі, якими ми користуємося лише тоді, коли не можемо отримати справжнє. Тож яку саме частину інтелекту ми так наполегливо прагнемо замінити?
Шкода, що комп’ютерні вчені з’ясували, як створити щось, що схоже на інтелект, перш ніж психологи змогли з’ясувати, що таке інтелект насправді, але ось ми й маємо.
Тепер кота назад у мішок не засунеш. Він туди не влізе — там забагато слів.
🟠 Донат? Донат!
Доки ми тут, то принагідно нагадую, що задонатити це не тільки чудова ідея, що береже сон, покращує травлення і робить волосся блискучим, а ще й наш обовʼязок, бо в нас є тільки ми.
🛸 Дронопад | 🔪 RUSORIZ | 🫶 “АЗОВ.ONE”
Ну, а вдруг ти вже задонатив, то завжди можеш закинути кілька грибнів на підтримку проекту
♥️ на кохве з курасаном класового розриву
Theory of mind: Здатність розуміти інших людей, приписуючи їм ментальні стани — зокрема усвідомлення того, що переконання, бажання, наміри, емоції та думки інших можуть відрізнятися від наших власних. Сформована теорія розуму є ключовою для успішної соціальної взаємодії.
Attribution (psychology):Термін, що описує те, як люди пояснюють причини повсякденних подій — як зовнішніми, так і внутрішніми факторами. Подія може сприйматися як наслідок обставин поза контролем людини (зовнішня) або як результат її власних дій (внутрішня). Ці первинні пояснення й називаються атрибуціями.
Impression management: Свідомий або підсвідомий процес, у якому люди намагаються вплинути на те, як їх сприймають інші — регулюючи та контролюючи інформацію в соціальній взаємодії. Вперше концептуалізовано Ервінгом Ґофманом у 1956 році в праці «Представлення себе в повсякденному житті».домий або підсвідомий процес, у якому люди намагаються впливати на сприйняття іншими людьми людини, об’єкта чи події шляхом регулювання та контролю інформації в соціальній взаємодії.
Stereotype: Узагальнене уявлення про певну категорію людей — очікування, яке поширюється на кожного представника групи. Стереотипи спрощують обробку інформації, дозволяючи спиратися на вже збережені знання замість нових даних. Вони часто хибні, неточні та стійкі до спростування.
cheater detection: Успішні наукові теорії — це ті, що витримали численні спроби спростування, дають детальні та нові передбачення щодо раніше не спостережуваних явищ, які згодом підтверджуються, передбачають спостереження, що спростовують конкуруючі теорії, і економно пояснюють великі масиви даних.
grilled cheese sandwich: Жінка, яка стверджувала, що її десятирічний сендвіч із плавленим сиром містить образ Діви Марії, добре заробила — річ пішла з молотка на eBay за 28 000 доларів. За словами Дайсер, вона відкусила шматочок від щойно приготованого сендвіча й побачила, як на неї дивиться чиєсь обличчя. Вона поклала сендвіч у прозору коробку з ватою і тримала його на тумбочці біля ліжка.
Сонний параліч — це стан під час засинання або пробудження, при якому людина перебуває у свідомості, але повністю не може рухатися. Під час епізоду можуть виникати галюцинації — людина чує, відчуває або бачить те, чого немає, — що нерідко супроводжується страхом. Зазвичай епізоди тривають не більше кількох хвилин.
how many “r”s are in the word “strawberry”: Звіт про помилку: штучний інтелект неправильно вказує, що слово “strawberry” містить лише дві літери ‘r’, попри те що користувач запитував кілька разів. (Правильна відповідь — три.)
put glue on my pizza: Функція AI Overviews від Google стала вірусною після того, як впевнено порадила додавати нетоксичний клей у соус для піци, щоб сир не сповзав. Виявилось, що порада взята з жарту десятирічної давнини на Reddit. Google заявила, що «вживає невідкладних заходів» щодо певних запитів, назвавши приклади «нетиповими» — проте багато з них були підтверджені незалежно.
invisible words: Системні підказки — ключовий компонент будь-якого ШІ, зокрема великих мовних моделей: вони визначають, як модель інтерпретує запити користувача та відповідає на них. Ці ретельно сформульовані інструкції слугують орієнтиром для ШІ, спрямовуючи його поведінку та забезпечуючи відповідність відповідей поставленим цілям. Звичайні користувачі, як правило, не можуть переглядати або змінювати системні підказки — вони діють непомітно, у фоновому режимі.
Примітно, що ChatGPT тепер відповідає на це запитання значно краще — частково завдяки саме тій публікації, яка критикувала його попередню відповідь. Кращу відповідь також можна отримати, якщо розпочати запит словами «Я прискіпливий, орієнтований на деталі палеонтолог». Класична поведінка мішка слів.
AI will replace human scientists: Коли ШІ перебере на себе наукову практику, результати, мабуть, видадуться нам дивними і незбагненними. Наука нашої епохи — обчислювальна: без моделей, симуляцій, статистичного аналізу та зберігання даних наші знання про світ зростали б набагато повільніше.
AlphaFold — програма штучного інтелекту від DeepMind, що передбачає структуру білків на основі амінокислотних послідовностей. Навчена на більш ніж 170 000 білках із Protein Data Bank, вона досягла точності, порівнянної з експериментальними методами на CASP14, — що було названо «приголомшливим» і «трансформаційним» результатом. База даних AlphaFold нині містить понад 200 мільйонів передбачених структур білків у відкритому доступі.
Платформа FutureHouse — Агент Phoenix від FutureHouse, побудований на основі технології ChemCrow, використовує спеціалізовані хемоінформатичні інструменти: будує маршрути синтезу, пропонує нові молекули, міркує про хімічний простір, прогнозує результати реакцій і навіть підказує, чи дешевше купити сполуку чи синтезувати самостійно.
scite.ai: ШІ для досліджень, заснований на доказовій базі. Пошук по 280+ мільйонах статей, препринтів, книжок, патентів і наборів даних. Виходьте за межі анотацій — дізнавайтеся, що всередині досліджень. Перевіряйте, чи підтримувало або спростовувало подальше наукове співтовариство ті чи інші висновки.
PersonalityMap — спеціалізована глибока нейромережа, що досліджує понад мільйон людських кореляцій у сферах особистості, демографії, поведінки та переконань. Дослідження 2025 року показало: всі AI-моделі — включно з PersonalityMap, GPT-4o та Claude 3 Opus — перевершують переважну більшість звичайних людей і академічних експертів у прогнозуванні кореляцій між пунктами особистісних опитувальників. ШІ вже здатний передбачати, моделювати й аналізувати саме ті зв’язки між психологічними конструктами, що складають основу постерних досліджень на конференціях.
У світі є два типи проблем: задачі сильної ланки та задачі слабкої ланки. У задачах слабкої ланки загальна якість залежить від того, наскільки поганим є найгірше в темі — харчова безпека, автомобільний двигун, банківська безпека. У задачах сильної ланки загальна якість залежить від того, наскільки хороше найкраще, а погане майже не має значення. Романи — задача сильної ланки: ви читаєте найкращі, а найгірші просто займають місце на полиці. Наука — теж задача сильної ланки: у довгостроковій перспективі найкраще — це майже все, що важливо, а погане не важливо взагалі. Поле історії науки всіяна черепами мертвих теорій.
Я кілька місяців працював над веб-застосунками для пошуку, виявлення та рекомендацій у біомедичній літературі — і дійшов висновку, що видобуток, структурування або синтез «інсайтів» із наукових публікацій, а також побудова баз знань із корпусу літератури мають мізерну цінність у промисловості. Майже нічого з того, що реально рухає науку вперед, не опубліковано у вигляді тексту в мережі.
«Альмагест» Птолемея (~150 р. н. е.) — У книзі I «Альмагесту» Птолемей стверджує, що Земля «розташована в середині небес, подібно до їхнього центру» і «не рухається з місця на місце». Він доводить, що Земля взагалі не може переміщатися зі свого центрального положення: «Вважаю зайвим шукати причини руху тіл до центру, адже з самих явищ цілком ясно, що Земля займає середнє місце у Всесвіті». Ця геоцентрична модель була авторитетним науковим консенсусом понад 1200 років.
Вуттон зазначає, що слово «відкрити» поширилося в європейських мовах лише після відкриття Колумбом Нового Світу — спочатку в португальській, потім у решті Європи. До того часу найближчий термін означав щось на кшталт «дізнатися» і був неоднозначним: він міг стосуватися й того, що вже було відомо іншим. Ранні автори мусили вдаватися до громіздких описів на кшталт «дізнався про те, що не було відоме раніше». Майже всі ключові терміни науки — відкриття, прогрес, факти, експерименти, гіпотези, теорії, закони природи — існували ще до 1492 року, але їхній зміст радикально змінився, перетворившись на інструменти наукового мислення. Мова науки була винайдена під час Наукової революції.
Experimental History — «Анархіст і хокейна ключка»: Прорив, майже за визначенням, має бути принаймні трохи безглуздим — інакше хтось уже давно зробив би його. Перші вчені зробили доволі дурну для свого часу річ: відкинули книги, що навчали людей тисячоліттями, і вирішили самим розбиратися в речах. Філософ Пол Фейєрабенд стверджував, що «успішне дослідження не дотримується загальних стандартів; воно покладається то на один прийом, то на інший». Його знаменитий принцип «все дозволено» — це, за його словами, «переляканий вигук раціоналіста, який пильно придивляється до історії». Ми маємо мРНК-вакцини, бо одна жінка продовжувала роботу десятиліттями, попри відмови в грантах. CRISPR з’явився частково завдяки вченим молочної компанії, які намагалися зробити йогурт.
nintil.com — «Відмови в науці»: Наука не така вже й відкрита до нових ідей, як може здаватися на перший погляд. Процес рецензування стоїть на заваді проривам. Це не лише давні приклади на кшталт Галілея чи Земмельвайса: стаття про подвійну спіраль ДНК була відхилена; відкриття кварків Джорджем Цвайгом відхилили в Physical Review Letters; стаття про бозон Хіггса отримала відмову, бо «не заслуговує швидкої публікації». Найтривожніше навіть не рецензування публікацій, адже журналів багато, а те, як ті самі рецензенти розподіляють гранти і відправляють у смітник пропозиції, що здаються їм малозначущими.
Інші дивні ефекти: ввічливе звернення до великих мовних моделей іноді покращує, а іноді погіршує їхні математичні здібності. Однак додавання до запиту фрази «Цікавий факт: коти більшу частину життя проводять уві сні» незмінно погіршує їхні результати.
