Принцип вагонетки - непроста етична задача.
Загальний опис проблеми такий:
Вагонетка втратила керування і мчить по залізничній колії. Попереду на колії прив'язані і знерухомлені п'ятеро людей, і вагонетка мчить просто на них. Ви стоїте на якійсь відстані від подій, біля стрілки. Якщо Ви натиснете на стрілку, вагонетка поїде по іншій колії. Однак, Ви помічаєте, що на іншій колії прив'язана одна людина.
У Вас є всього два варіанти: (1) Нічого не робити, і вагонетка вб'є п'ятьох на основній колії. (2) Натиснути на стрілку, і вагонетка піде по бічній колії, і вб'є одну людину. Який вибір правильний?
Чи має ШІ моральні принципи?
Ні. Він діє згідно із закладеною логікою. Але чи повинна вона бути однаковою в різних країнах? (Китай, США, Європа мають різне бачення етики.)
Не буду довго писати на цю тему. З цього приводу достатньо вже написано в інтернеті.
1. Немає правильної відповіді - тільки вибір і його наслідки.
Це головне відкриття принципу вагонетки. Усі варіанти ведуть до втрат, і моральна дилема не має «чистого» розв'язання. ШІ чи людина - це лише виконавець, а не всезнаючий суддя.
2. Суд - це компас, а не карта.
Він допомагає орієнтуватися, але не завжди веде до єдиної правди.
І люди, і ШІ - лише учасники процесу, які намагаються зрозуміти, що правильно. ШІ, і суд - ухвалюють рішення, не знаючи всіх деталей. У кожного з них є межа розуміння, контексту і впливу.
3. ШІ ухвалює рішення не з мораллю, а з математикою.
У випадку з вагонеткою - менше смертей = «краще» рішення.
Але математика ≠ справедливість.
ШІ не знає, хто з людей має дітей, хто рятував життя, а хто скоював злочини.
І навіть якби знав - хто дає право вирішувати, чия смерть важливіша?
Це не про правильність рішення. Це про його неминучі наслідки. І про те, що навіть наймудріші - чи то люди, чи ШІ - не знатимуть, що було б «краще». Але вибір доведеться зробити.
Ми чекаємо саме на твій довгочит!
Більше від автора
«Чарівники»
В інтернеті досі так багато «чарівників», псевдоекспертів, астроблогерів і «енергопрактиків», які заробляють на людській вразливості, пропонують «легкі відповіді» замість складних, реальних рішень. Маніпулюють страхом, болем і надією.
Теми цього довгочиту:
МісяцьФантосмія
Тепер після ГРВІ мені здається, що смердить тютюновим димом, хоча насправді його нема.
Теми цього довгочиту:
ФантомосміяЧому подобається дощ?
Дощ як особлива емоційна атмосфера, має кілька глибинних психологічних пояснень:
Теми цього довгочиту:
Дощ
Вам також сподобається
Apple із запізненням з'являється на вечірку генеративного ШІ
Apple створила власні інструменти генеративного штучного інтелекту, щоб конкурувати з сервісами великих мовних моделей (LLM), такими як ChatGPT або Google Bard.
Теми цього довгочиту:
Штучний ІнтелектЩо робитимуть люди, якщо технології робитимуть все?
У світі, де штучний інтелект виконує більшість економічно цінної праці, виникає сценарій утопії. Зменшення робочого часу відкриває людям більше можливостей для відпочинку, розваг і саморозвитку.
Теми цього довгочиту:
Штучний ІнтелектВеликі мовні моделі стають все більшими і кращими
Чи можуть вони вдосконалюватися вічно? У світі розвитку AI технології зі швидкістю світла переходять з розряду чудових у розряд застарілих. Лише 18 місяців тому випуск Chatgpt, чат-бота компанії Openai, спричинив справжнє AI-божевілля.
Теми цього довгочиту:
Ші