Цей допис – сьома з восьми частин перекладу есе з блогу американського психіатра Скотта Александера “Slate Star Codex” за 2014 рік, а ось попередні частини: перша, друга, третя, четверта, п’ята, шоста. Посилання на оригінал – у кінці. Продовження викладу згодом. Приємного прочитання.
Дозвольте зізнатися щодо одного з Герлокових обвинувачень: я трансгуманіст і справді хочу панувати над всесвітом.
Не особисто – тобто, я маю на увазі, я б не заперечував, якби хтось особисто мені запропонував таку посаду – проте я не очікую, що це станеться. Я б хотів, щоб люди, або щось, що поважає людей, або щонайменше порозумілося з людьми – обійняло б цю посаду.
Проте нинішні правителі всесвіту – звіть їх як хочете: Молохом, Гноном, чим завгодно – бажають нашої смерті, а також смерті всього, що ми цінуємо. Мистецтва, науки, кохання, філософії, самосвідомості, всього пакету. І оскільки я не в захваті від цього плану, то вважаю, що перемогти їх і зайняти їхнє місце – доволі пріоритетна справа.
Антонім пастки – сад. Єдиний спосіб уникнути поступового розчавлення всіх людських благ з боку оптимізації-конкуренції – поставити над усім всесвітом Садівника, що буде оптимізувати заради людських благ.
І вся суть Суперінтелекту Бострома полягає в тому, що ця задача – в наших силах. Коли люди зможуть розробляти машини, розумніші за нас, то за визначенням вони зможуть розробляти машини, розумніші вже за них, які зможуть розробляти машини, розумніші за них, і так далі, з настільки малою петлею зворотного зв’язку, що фізичні обмеження інтелекту будуть побиті протягом порівняно блискавичного відрізка часу. Якщо є ймовірність того, що кілька конкурентних акторів зроблять це водночас, то ми суперприречені. Проте величина швидкості цього циклу уможливлює те, що буде лише один такий актор, що на світлові роки обжене решту цивілізації, а отже – зможе придушити будь-яку конкуренцію, в тому числі конкуренцію за титул наймогутнішого актора – назавжди. У дуже близькому майбутньому ми піднімемо щось до Раю. Можливо, Молоха. Проте це може бути й щось, що стоїть на нашому боці. Якщо воно буде на нашому боці, то зможе вбити Молоха на смерть.
І якщо цей актор поділятиме людські блага, то зможе дозволити процвітати людським благам, не обмеженим законами природи.
Я розумію, що це звучить як зарозумілість – для Герлока точно – проте вважаю, що це протилежність зарозумілості, або щонайменше позиція з мінімізацією зарозумілості.
Очікувати, що Бог перейматиметься тобою або твоїми особистими благами, або благами твоєї цивілізації – оце зарозумілість.
Очікувати, що Бог торгуватиметься з тобою, дозволяючи тобі жити й процвітати, поки ти йому коришся – оце зарозумілість.
Розраховувати на відгородження саду, в який Бог не прийде й не зашкодить тобі – оце зарозумілість.
Розраховувати на змогу геть вилучити Бога з картини світу… зрештою, це щонайменше стратегія дій.
Я трансгуманіст, тому що не маю стільки зарозумілості, аби не спробувати вбити Бога.
Оригінал всього есе: https://slatestarcodex.com/2014/07/30/meditations-on-moloch/
Продовження перекладу: