Кілька днів тому письменник, а тепер і видавець Макс Кідрук анонсував книгу про користь комах (на скріні). Майбутні читачі подивились на обкладинку, і дізнались, що її намалювала не людина, а ШІ. І висловили своє цим невдоволеня тому що, по-перше, ШІ зараз дуже болісна тема, а по-друге, зображення комахи на обкладинці науково-популярної книги не відповідає комашиній анатомії і близько (замало пар очей, жвал взагалі немає). Це все було донесене до видавця класичним методом коментування.
Макс дав розлогу відповідь на тему його ставлення до використання генеративного ШІ для ілюстрацій. Дуже раджу прочитати її повністю, оскільки далі я говоритиму переважно про неї.
Якщо коротко, мені видається. що Макс лукавить. Бо намагаючись відстояти своє право на використання штучного інтелекту в видавничій справі з точки зору раціональності, він вдається до серії маніпуляцій, та свідомо ігнорує найголовнішу проблему використання ШІ. Яка полягає в тому, що ШІ вже залишає творчих людей без засобів до існування. І він, будучи видавцем, вже до цього процесу доклався.
А тепер детальний розбір посту з усіма поміченими мною маніпуляціями та демагогічними прийомами.
Самісінький початок, уявне протиставлення абстрактного "емоціо" персональному "раціо" (ІМХО, очевидно, що Макс асоціює себе саме з раціональною стороною уявної дискусії). З самого початку він стріляє з "важкої артилерії": "Чи спричиняють вакцини аутизм?". Два роки тому всі ми знатно від цієї теми вигрібали, коли накачані чутками люди масово відмовлялись вакцинуватись від COVID-19, штучно подовжуючи пандемію. Питання вакцин і аутизму вже давно слугує таким собі індикатором, хто перед тобою: нормальна людина, чи довбойоб, і викликає жваву емоційну реакцію. Тобто, робить саме те, проти чого на словах виступає автор.
Підемо далі: "Чи шкодить атомна енергетика довкіллю?" Тут Макс вдається до напівправди: парниковими газами атомна енергетика не шкодить, але вона ставить досі не розв'язане питання радіоактивних відходів: спрощено, їх тупо заривають в землю/воду/океан, залишаючи потомкам мітки "Тут не копати!". І цей підхід вже спричинив не одну екологічну катастрофу (вбите і знищене озеро Карачай, аварія на Губі Андреєва - оце взагалі мало хто знає, ну і наша засунута на дальні рубежі несвідомого тривога про сховище на ЗАЕС туди ж). Те ж саме з соломинками: ясен хрін, що вони не рятують океан від всього накопиченого і скинутого в нього пластику, але нахріна робити нерозчинні соломинки на один раз? Тому сорі, але всі три приклади тут є вкрай брудними."Системи так званого штучного інтелекту не є інтелектом від слова взагалі", - говорить Макс, і в якості аргументу наводить системи, що вміють аналізувати зображення, впізнавати об'єкти, що на них знаходяться, і самостійно без участі людини вчитись на базі оброблених зображень.
А тепер для порівняння подивимось визначення самого поняття "штучний інтелект".
" Штучний інтелект — це штучно створена людиною система, здатна обробляти інформацію, яка до неї надходить, пов’язувати її із знаннями, якими вона вже володіє, і відповідно формувати своє власне уявлення про об’єкти пізнання".
Упс, три з трьох. Тобто, навіть "безневинна інженерна програма", яку наводить Макс, вже підпадає під визначення системи штучного інтелекту, хай і дуже простої. Ну, типу, вона як дитина, якій показуєш на тваринку і питаєш її , що це, а вона відповідає: "Кіт". Давайте перейдемо до наступної фази його розвитку: генеративної системи штучного інтелекту Midjourney. Знайдемо у вже наведеній статті ознаки ШІ. Там говориться таке:
" Штучний інтелект(ШІ) — технічна (в усіх сучасних випадках спроб практичної реалізації - комп´ютерна) система, що має певні ознаки інтелекту, тобто здатна:
- розпізнавати та розуміти;
- знаходити спосіб досягнення результату та приймати рішення;
- вчитися"
І знову повне співпадіння. Ти говориш Midjourney: намалюй мені ніч. І вона тобі малює її аж в 4х варіантах: (умовно) темне небо з місяцем та зорями, фантазії на тему Архіпа Куїнджі "Місячна ніч на Дніпрі", види кіберпанкового Найт Сіті, і романтичну парочку на тлі темного міста. Тобто, знаходить не 1, а аж 4 способи вирішення проблеми, і негайно їх змінює відповідно до твого фідбеку.
Тобто, щось ходить як качка, виглядає як качка, і крякає, як качка. А Макс Кідрук чи то помиляється, чи то свідомо бреше.Далі Макс намагається переконати нас в тому, що з генеративним ШІ все гаразд, бо він не зберігає зображень на яких вчився. Перекладаючи технічною мовою, Макс каже, що штучний інтелект не є штучним інтелектом, тому що він не є базою даних картинок. Вибачте, але ні. Інтелект - це інтелект, база даних - це база даних.
Приведу таку аналогію: за весь час навчання тригонометрії я не запам'ятовувала жодної формули. Ну не зберігалось у мене в мозку картинки, де була б записана формула суми косинусів. І при цьому я стабільно отримувала 12, тому що я просто пам'ятала, як їх виводити. Точно так само з ШІ: ні, він не зберігає в своїй пам'яті жодної картини Ван Гога. Натомість він "запам'ятовує", яким саме чином намалювати картину "як Ван Гог", що і робить, коли йому надходить відповідний запит. Чи можна це назвати крадіжкою? Не зовсім. Бо це все ж таки результат процесу навчання. Але при цьому "вчителі" (себто, художники, на матеріалі яких цей ШІ навчався) не отримують за свою роботу взагалі ніякої оплати, в той час як їхній "учень" витісняє їх з ринку. І оце от і є основною проблемою ШІ, від якої Кідрук вперто намагається відвернути увагу.Стосовно використання Adobe Photoshop, бо він ніби-то теж такий самий інструмент, як генеративний ШІ (спойлер: ні!), але проти нього художники чомусь не протестують. Але Photoshop до вкраплення в нього елементів ШІ не міг нічого зробити без прямої участі людини. Так, навіть покращити зображення - запити на всі зміни мала зробити саме людина, що вміє з фотошопом працювати. А от той же Midjourney за одним запитом малює цілком пристойну картинку у високій роздільній здатності протягом лічених секунд. Маємо тут справу з хибною аналогією. Дуже некрасивий прийом риторичний прийом, дуже.
Далі про музичну індустрію. Можливо, Макс нею не цікавиться, чи його підводить пам'ять, але справа була геть не в появі формати mp3 як такого. Гроза розбуялась, коли з'явились одночасно:
- формат mp3;
- широкосмуговий безлімітний інтернет;
- peer-to-peer технологія передачі інформації.
Все це вилилось у появу такого ресурсу як Napster. Гадаю, небезпеку розгледіли всі, але першими забили тривогу Metallica, бо Ларс Ульріх - достатньо прямолінійний чувак, що любить гроші і цього не соромиться. Тоді-то з них всі іржали, мовляв, от жадюги, вже мільйонери, а їм все мало, але зараз, за 23 роки можна чесно сказати: вони були праві. Так, можливість передавати й транслювати музику онлайн не вбила індустрію, але вона однозначно зробила її гіршою. Станом на зараз в музичній індустрії багаті багатішають, всім іншим не дістається нічого, а середня сцена вимирає від безгрошів'я, або творить на голому ентузіазмі. Так, всі розшукують альтернативні способи заробітку, як, наприклад, продаж вінілів, мерчу, тури без вихідних, але і це працює недовго. У випадку тих же вінілів, як тільки стало ясно, що це - реальні гроші, топові артисти ломанулись і собі вініли штампувати, чим завантажили дуже обмежену кількість заводів на роки вперед, залишивши середню сцену з носом. З останніх хрінових новин: Spotify оголосили, що не будуть платити ніяких роялті "маленьким" артистам (себто, тим, хто не дотягує до певного рівня прослуховувань) задля того, щоб перенаправити їхні гроші артистам популярним. Утровано: ми слухаємо на Spotify гурт Zwyntar, а гроші за це отримуватиме каньє вест.
Тобто не треба заспокоювати художників музичною індустрією - вона зараз у дуже гострій кризі, і хз, як вона звідси вилізатиме.Далі йде історія про муки дизайну, бо комахи страшні, а на книжку потрібне якесь "миле", "продаюче" і при цьому фотореалістичне зображення. Взагалі не нова задача: наприклад, щури не те щоб дуже симпатичні істоти, але Ремі з мультика "Рататуй" - мілаха й лапусік.
Мультяшна репрезентація проти непоказного оригіналу
Або ж таргани: наштовхнетесь на них в кухні, вам погано стане, а от в мультсеріалі "Оггі й таргани" вони хай і не симпатичні, але харизматичні. Просто до появи ШІ такі задачі розв'язувались - па-бам! - людьми! І я в упор не бачу, що заважало Максові як видавцю звернутись до 3-д художника з задачею фотореалістично намалювати анатомічно правильного мураху, який при цьому викликатиме симпатію. Але він вирішив викупити згенероване ШІ зображення, трохи підкоригувавши його в тому ж фотошопі (а це вже геть інша такса, ніж створення картинки з нуля).А тепер останній пункт, що певним чином підсумовує все наведене вище. Ні, генеративний штучний інтелект не "може спричинити" проблеми. Він їх уже спричиняє і вже позбавляє роботи цілі професії. Чули ж про страйк акторів та сценаристів? Він почався не з того, що всі актори та сценаристи показились, а з того, що сценаристам скоротили оплату а то й взагалі попросили на вихід, бо "нащо ви потрібні, є ж ШІ", а акторам взагалі запропонували оцифруватись, щоб студії могли їх більше не наймати для зйомок, а просто тим же ШІ "вставляти" у фільми. І це при тому, що їм теж не те щоб багато платили, за винятком вузької касти суперзірок.
У випадку з Максом Кідруком я бачу подвійні стандарти: він каже, що не відмовиться від послуг ілюстраторів (що, скоріше за все, правда), але його рішення по обкладинці вже позбавило замовлення одного 3-д художника.
Я розумію, що Кідрук як письменник почувається поки що захищеним (ключове слово тут - "поки що"), бо картинки для ШІ створювати легше, ніж художні тексти, а як видавцеві йому ШІ взагалі дуже вигідний. Але не треба намагатись демагогією "довести", що проблеми не існує, коли твої власні дії є живим втіленням цієї проблеми.
Замість епілога. Кілька років тому почала я читати книгу "Життя 2.0". Починалась вона з лірично-оптимістичного вступу про те, як в недалекому майбутньому група дуже таємних вчених розробила надпотужний штучний інтелект, здатний віднаходити закономірності, генерувати зображення та відео, робити узагальнення, навчатись, і вирішила на ньому заробити гроші. Точніше Гроші. Величезні. Першим ділом вони звернули увагу на “маленький екран”, і дали своєму ШІ вивчити всі надпопулярні серіали останніх років. ШІ слухняно написав захоплюючий сценарій, згенерував за ним відеоряд з нікому невідомими (бо вони були згенеровані цим самим ШІ) "свіжими і дуже талановитими" акторами. Вчені продали цей серіал якомусь популярному кабельному каналові, і він в лічені дні став мегахітом, доходи від нього були колосальними, особливо при нульових втратах на створення. Вчені зрозуміли, що пілотний проект перевершив очікування. Вони нагеренували ще десять, двадцять, тридцять тайтлів, всі вони стали мегапопулярними та принесли їм ще більше бабла. Коли всі канали справно крутили виключно згенеровані ними в промислових масштабах серіали, вчені вирішили розширити діяльність і звернули увагу на індустрію відеоігор. "Згодувавши" своєму дітищу кілька ААА-хітів (про дату написання книжки красномовно говорить те, що "Скайрім" тут згадувався, а "Відьмак-3" - ні), вчені отримали сценарій гри, персонажів, їхню зовнішність, діалоги, адиктивні квести, коротше, все, щоб гру почати кодити. Потім вони натравили свій ШІ на умовний Stack Overflow, сорс-коди найзатребуванішого в галузі ПЗ та відкриті бази коду, і - о, диво! - отримали невтомного надпродуктивного програміста, аніматора, моделера і звукорежисера під одним корпусом. Так вони випустили кілька надпопулярних сенсаційних ігор, заробивши ще більше грошей і довівши до розорення всіх інших гравців на ринку. І так далі, і тому подібне. Заробивши таким чином більше грошей, ніж будь-хто до них в історії та монополізувавши абсолютно всю індустрію розваг, вчені вирішили змінити світ, для чого запустили і розкрутили свій канал новин, в якому почали відверто маніпулювати інформацією. Наприклад, вирішивши розв'язати конфлікт Індії та Пакистану, вони ставили в етер заточені під кожну країну матеріали про те, що "на іншій стороні теж люди, чого вам сваритись?". Мізки глядачів потроху промивались, популярність війни падала, настав мир в усьому світі, дружба-жвачка (як при цьому було розв'язане питання Кашеміру, за яку насправді точиться війна, а також спільного історичного спадку колоніальних часів штибу голоду в Панджабі, книжку не турбує - для неї то дрібниці). Те ж саме з Ізраїлем та всією Лігою Арабських держав навколо нього (я так розумію, кадри з відрізаними головами в етер цього каналу не потрапляли, а от плачучих діток та щенячих очей було хоч вдавись), і всіма світовими конфліктами. Після цього цей їхній ШІ став глобальним цензором всіх медіа, “знищив” мову ненависті, тупо забороняючи всі “нехороші” слова, та все інше погане на основі якихось там "об'єктивних причин" (точніше, відкритим голосуванням, в якому представники більш чисельних народів елементарно чавили кількістю думку народів менших), і під владою цього бездоганного цифрового тирана людство досягло нових вершин процвітання.
Сказати, що мене цей вступ налякав - це нічого не сказати. Це була антиутопія на порядок сильніша, ніж "Фаренгейт 451" Бредбері (а вона мені свого часу подарувала нічні жахи). Багато аспектів цього "ідеального світу процвітання" були навіть гіпотетично для мене нестерпними, але один із них перевершив геть усе. Це - повна смерть творчості. І те, з яким захопленням про це розповідав автор, вселило в мене жах.
На даний момент системи ШІ поки що не досягли того рівня розвитку, який подавався в цій книжці. Але тенденція вже проглядається. Ні, ніхто не забороняє тим же художникам малювати й творити. Але в загальній сумі вони чим далі, тим менше отримуватимуть сумарно грошей за свою роботу - ШІ робить її майже миттєво і майже безкоштовно.
Я не хочу бути песимісткою, але я не можу позбутись думки, що системи генеративного ШІ вже невідворотно наблизили нас до такого майбутнього. В якому ти, звичайно, можеш творити... але тільки у вільний від роботи час, бо прогодуватись творчістю ти, скоріш за все, не зможеш.
