Глава 5. Алоритмічна неупередженість — нове обличчя справедливості

Алгоритмічна справедливість зачіпає безліч аспектів, від кредитного скорингу до систем попереднього взяття під варту. Філософи колись пропонували різні підходи до розуміння і досягнення справедливості в суспільстві. Наприклад, філософ й соціолог Джон Роулз виводив справедливість із поняття неупередженості, припускаючи, що рішення мають бути ухвалені так, ніби вони виходять із вихідного положення, де ніхто не знає свого місця в суспільстві.

Як можна гарантувати, що ШІ-системи діють справедливо і не відтворюють наявні упередження?

На практиці алгоритми ШІ часто навчаються на даних, які можуть відображати людські упередження. ШІ може несвідомо підсилювати існуючу дискримінацію. Так от, cучасний стан впровадження цензури в ШІ напярму декларує цей статус кво. Приклади також включають алгоритми розпізнавання облич, які показують низьку точність для осіб небілих рас, або системи передбачення злочинності, які можуть непропорційно маркувати певні соціальні групи як більш схильні до злочинів.

Розв'язання гордієвого вузла потребує комплексного підходу

Етики ШІ, як-от Тімніт Гебру, виводять цілком очевидну відповідь на розв'язання несправедливості: річ у тім, що неупередженості можна досягти або в повному невелюванні соціальних відмінностей, або в їх асимілюванні. Перший випадок відсилає нас до уявних експериментів Роулза. Тоді як другий апостолює різноманітність та інклюзивність, як мозаїка із безлічі перспектив, що робить несумісним існування упередженості як такої. Бо упередженість протилежна подібним гомогенним владним структурам. У стані “упередженості” привілейовані групи домінують, а всі інші зазнають дискримінації без вшитих принципів гуманності.

Враховуючи, що людські упередження стають комом у горлі створення ідеальної штучної моделі справедливості, можливо побудувати справедливий світ вдасться не нам, подібно тому як ми колись вигадали упорядкований світ диким тваринам.

ПОВНИЙ ТЕКСТ УСІХ “ГЛАВ” ВИ МОЖЕТЕ ЗНАЙТИ У МОЄМУ БЛОЗІ, ЗА ПОСИЛАННЯМ У ШАПЦІ ПРОФІЛЮ

Поділись своїми ідеями в новій публікації.
Ми чекаємо саме на твій довгочит!
Рєпін Ілля
Рєпін Ілля@na_manjetax

Про політичну філософію та ШІ

377Прочитань
17Автори
8Читачі
На Друкарні з 10 січня

Більше від автора

  • Про «Centaur» та людське пізнання.

    Щоб створити єдину теорію пізнання, потрібно розробити модель, яка передбачає та імітує людську поведінку у різних ситуаціях. «Centaur» — перша базова модель людського пізнання, яка вирішує це завдання.

    Теми цього довгочиту:

    Ші
  • State of AI 2024: Які є політичні ризики? Огляд звіту.

    Вчора традиційно вийшов State of AI report - щорічний звіт про головні ризики сфери ШІ від АІ-інвестора Натана Бенаїча та Air Street Capital.

    Теми цього довгочиту:

    Ai
  • Machines of Loving Grace / Як ШІ може змінити світ на краще

    CEO Anthropic випустив особистий блог із своїми передабченнями майбутнього розвитку AI. Ось коротка вижимка, яка стосується його політико-культурних пердбачень:

    Теми цього довгочиту:

    Ші

Вам також сподобається

Коментарі (0)

Підтримайте автора першим.
Напишіть коментар!

Вам також сподобається