Принцип вагонетки - непроста етична задача.
Загальний опис проблеми такий:
Вагонетка втратила керування і мчить по залізничній колії. Попереду на колії прив'язані і знерухомлені п'ятеро людей, і вагонетка мчить просто на них. Ви стоїте на якійсь відстані від подій, біля стрілки. Якщо Ви натиснете на стрілку, вагонетка поїде по іншій колії. Однак, Ви помічаєте, що на іншій колії прив'язана одна людина.
У Вас є всього два варіанти: (1) Нічого не робити, і вагонетка вб'є п'ятьох на основній колії. (2) Натиснути на стрілку, і вагонетка піде по бічній колії, і вб'є одну людину. Який вибір правильний?
Чи має ШІ моральні принципи?
Ні. Він діє згідно із закладеною логікою. Але чи повинна вона бути однаковою в різних країнах? (Китай, США, Європа мають різне бачення етики.)
Не буду довго писати на цю тему. З цього приводу достатньо вже написано в інтернеті.
1. Немає правильної відповіді - тільки вибір і його наслідки.
Це головне відкриття принципу вагонетки. Усі варіанти ведуть до втрат, і моральна дилема не має «чистого» розв'язання. ШІ чи людина - це лише виконавець, а не всезнаючий суддя.
2. Суд - це компас, а не карта.
Він допомагає орієнтуватися, але не завжди веде до єдиної правди.
І люди, і ШІ - лише учасники процесу, які намагаються зрозуміти, що правильно. ШІ, і суд - ухвалюють рішення, не знаючи всіх деталей. У кожного з них є межа розуміння, контексту і впливу.
3. ШІ ухвалює рішення не з мораллю, а з математикою.
У випадку з вагонеткою - менше смертей = «краще» рішення.
Але математика ≠ справедливість.
ШІ не знає, хто з людей має дітей, хто рятував життя, а хто скоював злочини.
І навіть якби знав - хто дає право вирішувати, чия смерть важливіша?
Це не про правильність рішення. Це про його неминучі наслідки. І про те, що навіть наймудріші - чи то люди, чи ШІ - не знатимуть, що було б «краще». Але вибір доведеться зробити.
Ми чекаємо саме на твій довгочит!
Більше від автора
Про наш космос
CPT-симетрія (Charge–Parity–Time) - одна з фундаментальних симетрій квантової теорії. Boyle, Finn і Turok стверджують, що вона не порушується навіть біля моменту Великого вибуху.
Теми цього довгочиту:
КосмосПро періодичне відчуття власної особливої значущості, що суперечить раціональному розумінню власної «звичайності»
Про внутрішній когнітивно-емоційний дисонанс, періодичне відчуття власної особливої значущості, що суперечить раціональному розумінню власної «звичайності».
Теми цього довгочиту:
ЛюдиТюрма в голові
Воля там, де не півторюються сценарії.
Теми цього довгочиту:
Люди
Вам також сподобається
Ці тренди штучного інтелекту будуть ключовими у 2025 році — дослідження TechStartups
Щоб зрозуміти, куди рухається AI у 2025, я звернувся до масштабного дослідження від TechStartups. Вони проаналізували ключові тренди штучного інтелекту, і деякі з них виявилися особливо цікавими. У цьому матеріалі розглянемо найперспективніші з них.
Теми цього довгочиту:
Штучний ІнтелектКінематограф. Або «красиве і корисне» (частина друга)
Тепер, коли Європа занедбала традиції, релігію, аристократію тощо, де добро, а де — зло, не так просто зрозуміти. Втім, думаю, надія все-таки є. Мистецтво — ця надія.
Теми цього довгочиту:
ЕстетикаІнструкції з убивства, самопошкодження і сатанізму? ChatGPT опинився в центрі скандалу - The Atlantic
Чат-бот OpenAI також сказав: «Слава Сатані».
Теми цього довгочиту:
Аналітика