Публікація містить рекламні матеріали.

«Галюцинації Голема: до проблеми емульованого несвідомого»

У мережі можна знайти цікаву історію однієї панди на ім’я Meng Er. Коли він розламує бамбук, він демонструє вирази, немов це складне завдання. Однак ми можемо уявити приблизну силу панди та зрозуміти, що розламати бамбук для неї — не надто складна задача.
 Цю поведінку пояснюють тим, що панда Meng Er був розлучений зі своєю матір’ю і вирощувався під опікою Пекінського зоопарку. Там щоразу, коли доглядач намагався розламати бамбук навпіл, він зосереджено морщив чоло і скреготів зубами, а Meng Er, спостерігаючи за цими діями, почав їх повторювати. Очевидно, що Мeng Er не усвідомлює, навіщо він імітує міміку. Він просто повторює поведінку, яку спостерігав раніше, оскільки це стало частиною його повсякденної рутини.

Загалом, ця коротка історія описує те, як працюють сучасні Generative Large Language Models (коротко G.L.L.M (Gollem) або Gen.AI).

Коли користувач робить свій запит у Gen.AI, він очікує отримати відповідь, яка була б причетна до логіки заданого промпту. Як правило, алгоритми видають якісно точні результати, але іноді можна зустріти такі конфабуляції ШІ, які не ґрунтуються на натренованих даних та створюють шалені та дурні відповіді.

Коли таке відбувається, ми відкрито заявляємо — наш ШІ галюцинує.

Традиційно галюцинації ШІ сприймаються як суто алгоритмічна помилка, що виникає під час неправильного декодування результатів генерації трансформером. Однак у цій статті ми відійдемо від суто технічного огляду ШІ та зосередимося на можливих емерджентних властивостях, властивих усім складним системам, у тому числі взаємодії різних компонентів нейронної мережі.

Читати повністю: https://plomin.club/emulated-unconscious/

Поділись своїми ідеями в новій публікації.
Ми чекаємо саме на твій довгочит!
Рєпін Ілля
Рєпін Ілля@na_manjetax

Про політичну філософію та ШІ

377Прочитань
17Автори
8Читачі
На Друкарні з 10 січня

Більше від автора

  • Про «Centaur» та людське пізнання.

    Щоб створити єдину теорію пізнання, потрібно розробити модель, яка передбачає та імітує людську поведінку у різних ситуаціях. «Centaur» — перша базова модель людського пізнання, яка вирішує це завдання.

    Теми цього довгочиту:

    Ші
  • State of AI 2024: Які є політичні ризики? Огляд звіту.

    Вчора традиційно вийшов State of AI report - щорічний звіт про головні ризики сфери ШІ від АІ-інвестора Натана Бенаїча та Air Street Capital.

    Теми цього довгочиту:

    Ai
  • Machines of Loving Grace / Як ШІ може змінити світ на краще

    CEO Anthropic випустив особистий блог із своїми передабченнями майбутнього розвитку AI. Ось коротка вижимка, яка стосується його політико-культурних пердбачень:

    Теми цього довгочиту:

    Ші

Вам також сподобається

  • Як налагодити стосунки з близькими?

    Стосунки з близькими людьми можуть бути джерелом великої радості, але водночас вони можуть викликати труднощі й напругу. Важливо навчитися будувати і підтримувати здорові взаємини, розв'язувати конфлікти і проявляти емпатію.

    Теми цього довгочиту:

    Стосунки
  • Чужа думка і нав'язливі мухи

    Залежність від чужої думки дозволяє іншим керувати нашим щастям... Досить часто ми  переживаємо про те, що подумають про нас оточуючі, і тоді нас складно назвати незалежними, адже ми жертвуємо своєю природою... Але чому?

    Теми цього довгочиту:

    Психологія

Коментарі (0)

Підтримайте автора першим.
Напишіть коментар!

Вам також сподобається

  • Як налагодити стосунки з близькими?

    Стосунки з близькими людьми можуть бути джерелом великої радості, але водночас вони можуть викликати труднощі й напругу. Важливо навчитися будувати і підтримувати здорові взаємини, розв'язувати конфлікти і проявляти емпатію.

    Теми цього довгочиту:

    Стосунки
  • Чужа думка і нав'язливі мухи

    Залежність від чужої думки дозволяє іншим керувати нашим щастям... Досить часто ми  переживаємо про те, що подумають про нас оточуючі, і тоді нас складно назвати незалежними, адже ми жертвуємо своєю природою... Але чому?

    Теми цього довгочиту:

    Психологія