Штучний інтелект і принцип вагонетки

Принцип вагонетки - непроста етична задача.

Загальний опис проблеми такий:
Вагонетка втратила керування і мчить по залізничній колії. Попереду на колії прив'язані і знерухомлені п'ятеро людей, і вагонетка мчить просто на них. Ви стоїте на якійсь відстані від подій, біля стрілки. Якщо Ви натиснете на стрілку, вагонетка поїде по іншій колії. Однак, Ви помічаєте, що на іншій колії прив'язана одна людина.
У Вас є всього два варіанти: (1) Нічого не робити, і вагонетка вб'є п'ятьох на основній колії. (2) Натиснути на стрілку, і вагонетка піде по бічній колії, і вб'є одну людину. Який вибір правильний?

Чи має ШІ моральні принципи?
Ні. Він діє згідно із закладеною логікою. Але чи повинна вона бути однаковою в різних країнах? (Китай, США, Європа мають різне бачення етики.)
Не буду довго писати на цю тему. З цього приводу достатньо вже написано в інтернеті.
1. Немає правильної відповіді - тільки вибір і його наслідки.
Це головне відкриття принципу вагонетки. Усі варіанти ведуть до втрат, і моральна дилема не має «чистого» розв'язання. ШІ чи людина - це лише виконавець, а не всезнаючий суддя.
2. Суд - це компас, а не карта.
Він допомагає орієнтуватися, але не завжди веде до єдиної правди.
І люди, і ШІ - лише учасники процесу, які намагаються зрозуміти, що правильно. ШІ, і суд - ухвалюють рішення, не знаючи всіх деталей. У кожного з них є межа розуміння, контексту і впливу.
3. ШІ ухвалює рішення не з мораллю, а з математикою.
У випадку з вагонеткою - менше смертей = «краще» рішення.
Але математика ≠ справедливість.
ШІ не знає, хто з людей має дітей, хто рятував життя, а хто скоював злочини.
І навіть якби знав - хто дає право вирішувати, чия смерть важливіша?
Це не про правильність рішення. Це про його неминучі наслідки. І про те, що навіть наймудріші - чи то люди, чи ШІ - не знатимуть, що було б «краще». Але вибір доведеться зробити.