Ласкаво просимо до високотехнологічної утопії
У романі Грега Ігана "Місто перестановок" герой Пір, досягнувши безсмертя у віртуальній реальності, над якою він має повний контроль, страшенно нудьгує. Тож він конструює собі нові пристрасті. То він розширює межі вищої математики, то пише опери. "Колись він навіть цікавився Елізією [потойбічним світом]. Більше не цікавився. Він вважав за краще думати вже про ніжки столів, ніж щось інше". Мінливість Пера пов'язана з глибшим питанням. Коли технологія вирішила найглибші проблеми людства, що залишається робити?
Це питання розглядається в новій публікації Ніка Бострома, філософа з Оксфордського університету, чия остання книга стверджує, що людство має один з шести шансів бути знищеним протягом наступних 100 років, можливо, через розвиток небезпечних форм штучного інтелекту (ШІ). В останній книзі пана Бострома "Глибока утопія" він розглядає зовсім інший варіант розвитку подій. Що станеться, якщо ШІ розвиватиметься надзвичайно добре? За одним сценарієм, який розглядає пан Бостром, технологія розвинеться до такого рівня, що зможе виконувати всю економічно цінну роботу з майже нульовою собівартістю. За ще більш радикальним сценарієм, навіть ті завдання, які, як ви вважаєте, мають виконуватися людьми, наприклад, виховання дітей, можуть бути виконані штучним інтелектом краще. Це може звучати скоріше як антиутопія, ніж утопія, але пан Бостром стверджує протилежне.
Почнемо з першого сценарію, який пан Бостром називає утопією "пост-дефіциту". У такому світі потреба в роботі зменшиться. Майже століття тому Джон Мейнард Кейнс написав есе під назвою "Економічні можливості для наших онуків", в якому передбачив, що через 100 років його заможним нащадкам потрібно буде працювати лише 15 годин на тиждень. Це не зовсім так і сталося, але робочий час значно скоротився. У заможному світі середня кількість робочих годин на тиждень скоротилася з понад 60 наприкінці 19 століття до менш ніж 40 сьогодні. Типовий американець витрачає третину свого часу на дозвілля та спорт. У майбутньому вони, можливо, захочуть витрачати свій час на речі, що виходять за рамки нинішніх уявлень людства. Як пише пан Бостром, за допомогою потужних технологій "простір можливого для нас досвіду виходить далеко за межі того, що доступний нам з нашим нинішнім неоптимізованим мозком".
Проте ярлик пана Бострома як утопії "пост-дефіциту" може дещо вводити в оману: економічний вибух, спричинений суперінтелектом, все одно буде обмежений фізичними ресурсами, насамперед землею. Хоча освоєння космосу може значно збільшити простір для будівництва, воно не зробить його нескінченним. Існують також проміжні світи, де люди розвивають нові потужні форми інтелекту, але не стають космічними.
"Позиційні блага", які підвищують статус їхніх власників, також, ймовірно, існуватимуть і надалі, і за своєю природою є дефіцитними. Навіть якщо ШІ перевершать людей у мистецтві, інтелекті, музиці та спорті, люди, ймовірно, продовжуватимуть отримувати цінність від того, що вони перевершують своїх побратимів, наприклад, маючи квитки на найгарячіші події. У 1977 році Фред Гірш, економіст, у своїй праці "Соціальні межі зростання" стверджував, що зі зростанням багатства все більшу частку людських бажань складають позиційні блага. Час, витрачений на конкуренцію, зростає, ціна таких товарів збільшується, а отже, зростає і їхня частка у ВВП. Ця закономірність може продовжуватися і в ШІ-утопії.
Пан Бостром зазначає, що деякі види конкуренції - це провал координації: якби всі погодилися припинити конкурувати, у них з'явився б час на інші, кращі речі, що могло б сприяти подальшому зростанню. Проте деякі види конкуренції, такі як спорт, мають внутрішню цінність, і їх варто зберігати(Люди також можуть не мати нічого кращого). Інтерес до шахів зріс відтоді, як ibm's Deep Blue вперше переміг Гаррі Каспарова, на той час чемпіона світу, у 1997 році. Навколо кіберспорту, де комп'ютери можуть спокійно перемагати людей, виникла ціла індустрія. Очікується, що їхні доходи зростатимуть на 20% щорічно протягом наступного десятиліття, досягнувши майже $11 млрд до 2032 року. Кілька груп у суспільстві сьогодні дають нам уявлення про те, як люди майбутнього можуть проводити свій час. Аристократи і богема насолоджуються мистецтвом. Монахи живуть всередині себе. Спортсмени присвячують своє життя спорту. Пенсіонери займаються усіма цими справами.
Достроковий вихід на пенсію для всіх
Чи не залишаться такі завдання, як виховання дітей, притулком для людей? Пан Бостром не такий впевнений. Він стверджує, що за постдефіцитним світом лежить "постінструментальний", в якому людина стане надлюдиною і в догляді за дітьми. Сам Кейнс писав, що "не існує жодної країни і жодного народу, я думаю, які могли б без страху дивитися на епоху дозвілля і достатку. Адже нас занадто довго вчили прагнути, а не насолоджуватися... Судячи з поведінки і досягнень заможних класів сьогодні в будь-якій частині світу, перспективи дуже гнітючі!". Біблія говорить про це більш лаконічно: "Бездіяльність рук - це майстерня диявола".
Така динаміка свідчить про "парадокс прогресу". Хоча більшість людей прагнуть кращого світу, якщо технології стануть надто розвиненими, вони можуть втратити сенс життя. Пан Бостром стверджує, що більшість людей все одно отримуватимуть задоволення від діяльності, яка має внутрішню цінність, наприклад, від смачної їжі. Утопісти, вважаючи, що життя стало занадто легким, можуть вирішити кинути виклик самим собі, можливо, колонізувавши нову планету, щоб спробувати перепроектувати цивілізацію з нуля. Однак у певний момент навіть такі пригоди можуть перестати здаватися вартими уваги. Залишається відкритим питання, як довго люди будуть щасливі стрибати між пристрастями, як це робить Пеер у "Місті перестановок". Економісти довгий час вважали, що люди мають "необмежені потреби і бажання", припускаючи, що існує нескінченна кількість варіацій речей, які люди хотіли б споживати. З приходом ШІ-утопії це буде перевірено на практиці. Від результату буде залежати дуже багато.
Першоджерело: The Economist “What will humans do if technology solves everything?”
