Принцип вагонетки - непроста етична задача.
Загальний опис проблеми такий:
Вагонетка втратила керування і мчить по залізничній колії. Попереду на колії прив'язані і знерухомлені п'ятеро людей, і вагонетка мчить просто на них. Ви стоїте на якійсь відстані від подій, біля стрілки. Якщо Ви натиснете на стрілку, вагонетка поїде по іншій колії. Однак, Ви помічаєте, що на іншій колії прив'язана одна людина.
У Вас є всього два варіанти: (1) Нічого не робити, і вагонетка вб'є п'ятьох на основній колії. (2) Натиснути на стрілку, і вагонетка піде по бічній колії, і вб'є одну людину. Який вибір правильний?
Чи має ШІ моральні принципи?
Ні. Він діє згідно із закладеною логікою. Але чи повинна вона бути однаковою в різних країнах? (Китай, США, Європа мають різне бачення етики.)
Не буду довго писати на цю тему. З цього приводу достатньо вже написано в інтернеті.
1. Немає правильної відповіді - тільки вибір і його наслідки.
Це головне відкриття принципу вагонетки. Усі варіанти ведуть до втрат, і моральна дилема не має «чистого» розв'язання. ШІ чи людина - це лише виконавець, а не всезнаючий суддя.
2. Суд - це компас, а не карта.
Він допомагає орієнтуватися, але не завжди веде до єдиної правди.
І люди, і ШІ - лише учасники процесу, які намагаються зрозуміти, що правильно. ШІ, і суд - ухвалюють рішення, не знаючи всіх деталей. У кожного з них є межа розуміння, контексту і впливу.
3. ШІ ухвалює рішення не з мораллю, а з математикою.
У випадку з вагонеткою - менше смертей = «краще» рішення.
Але математика ≠ справедливість.
ШІ не знає, хто з людей має дітей, хто рятував життя, а хто скоював злочини.
І навіть якби знав - хто дає право вирішувати, чия смерть важливіша?
Це не про правильність рішення. Це про його неминучі наслідки. І про те, що навіть наймудріші - чи то люди, чи ШІ - не знатимуть, що було б «краще». Але вибір доведеться зробити.
Ми чекаємо саме на твій довгочит!
Більше від автора
Платонічна дружба
Розбір - "Щира дружба vs. Маніпуляція". Три блоки: відчуття в процесі, поведінка людини, наслідки.
Теми цього довгочиту:
ДружбаРефлекс занурення (diving reflex) або «Shallow Water Blackout» (SHBW)
Випадок з мого життя. Це не вигадка. Все сталося у свідомому адекватному стані коли мені було 15 років, але достатньо, щоб запам'ятати на усе життя.
Теми цього довгочиту:
РефлексРодина котячих і трохи про собачих
Тварини справді можуть бути з характером і навіть зі своєю «політикою поведінки».
Теми цього довгочиту:
Cat
Вам також сподобається
Блокчейн та ШІ: як інтеграція змінює майбутнє нейромережі?
За останній рік ми спостерігали стрімке зростання можливостей і використання штучного інтелекту в усіх сферах, включаючи криптоіндустрію. Поєднання нейромережі та блокчейну стало однією з провідних тем
Теми цього довгочиту:
БлокчейнАвтоматизація бізнесу за 48 годин: ШІ-генераліст для малого бізнесу
Автоматизація бізнесу за допомогою ШІ-інструментів, чат-ботів та no-code рішень. Забудьте про рутину та отримайте готове рішення, що економить ваш час та гроші.
Теми цього довгочиту:
Автоматизація Бізнесу15 ідей для бізнесу, орієнтованих на ветеранів бойових дій в Україні, з урахуванням грантових коштів до 1 000 000 грн та можливості масштабування.
Гайд з додатковою інформацією: Проблема+опис+ЦА+Канали збуту+Джерела доходу+Ментор/Консультант. Короткий опис ідей, які можна упакувати у бізнес-канву, та подаватися на грантові програми до 1 000 000 грн. Якщо є якісь думки, пишіть у обговореннях.
Теми цього довгочиту:
Бізнес-ідея