Я думаю, що більшість людей недооцінюють, наскільки радикальними можуть бути переваги штучного інтелекту , так само, як я думаю, що більшість людей недооцінюють, наскільки серйозними можуть бути ризики.
CEO Anthropic випустив особистий блог із своїми передабченнями майбутнього розвитку AI. Ось коротка вижимка, яка стосується його політико-культурних пердбачень:
♦️ Тридцять років тому Френсіс Фукуяма писав про « Кінець історії » та остаточний тріумф ліберальної демократії; цього ще не сталося. Двадцять років тому політики США вважали, що вільна торгівля з Китаєм призведе до його лібералізації, оскільки він стане багатшим; цього майже не сталося, і тепер ми, схоже, прямуємо до другої холодної війни з відроджуваним авторитарним блоком.
♦️ На жаль, я не бачу вагомих причин вважати, що штучний інтелект переважно чи структурно сприятиме розвитку демократії та миру так само, як я думаю, що він структурно покращуватиме здоров’я людей і зменшуватиме бідність. У всякому разі, деякі структурні фактори викликають занепокоєння: ШІ, ймовірно, забезпечить набагато кращу пропаганду та стеження, обидва основні інструменти в інструментарії автократа.
♦️ Я думаю, що це питання має дві частини: міжнародний конфлікт і внутрішню структуру націй. З міжнародного боку здається дуже важливим, щоб демократії мали перевагу на світовій арені, коли створюється потужний ШІ. Авторитаризм, заснований на штучному інтелекті, здається надто жахливим, щоб думати про нього, тому демократії повинні мати можливість встановити умови, за яких потужний штучний інтелект буде представлений у світі, щоб уникнути переваги авторитарних режимів і запобігти порушенням прав людини в авторитарних країнах.
♦️ На даний момент я припускаю, що найкращий спосіб зробити це через «стратегію Антанти» 26 , за якою коаліція демократій прагне отримати явну перевагу (навіть лише тимчасову) на потужному ШІ, захищаючи його ланцюжок поставок, швидко масштабуючи, а також блокування або затримка доступу зловмисників до ключових ресурсів, таких як мікросхеми та напівпровідникове обладнання.
♦️ Зокрема, у цьому середовищі демократичні уряди можуть використовувати свій кращий штучний інтелект для перемоги в інформаційній війні: вони можуть протидіяти впливу та пропагандистським операціям автократій і навіть можуть створити глобальне вільне інформаційне середовище, надаючи канали інформації та послуги ШІ в таким чином, що автократії не мають технічної можливості блокувати або контролювати. Ймовірно, не потрібно вести пропаганду, лише протидіяти зловмисним атакам і розблокувати вільний потік інформації
♦️ Існує хороший шанс, що безкоштовна інформація справді підриває авторитаризм, доки авторитаристи не можуть її цензурувати. А штучний інтелект без цензури також може надати людям потужні інструменти для підриву репресивних урядів.
♦️ Штучний інтелект можна використовувати як для узагальнення думок, так і для досягнення консенсусу серед громадян, вирішення конфліктів, пошуку спільної мови та пошуку компромісу.
Повний текст: https://darioamodei.com/machines-of-loving-grace#4-peace-and-governance
