Повідомлення про загрозу, написане в чаті з Claude, опинилося в поліції після перевірки командою Anthropic. Ця історія змушує поговорити про межу між приватністю листування, правилами безпеки й обіцянками ШІ. Але важливо відділити підтверджені факти від гучних висновків.
На початку жовтня американські медіа повідомили про арешт 30-річної мешканки округу Лі у Флориді. За даними місцевої поліції та матеріалів справи, вона нібито написала в чаті Claude повідомлення із погрозою на адресу офісу шерифа, а наступного дня згадала про нову зброю. Повідомлення позначила автоматизована система, після чого їх перевірила команда Anthropic і передала інформацію правоохоронцям, повідомляє Gulf Coast News.
Жінку затримали й висунули їй обвинувачення у письмовій або електронній погрозі насильством. На момент публікації це обвинувачення, а не вирок суду. Деталі, наведені медіа, походять із повідомлень поліції та матеріалів справи; сама історія ще не є підставою робити висновок про винуватість людини.
Проте вже зрозуміло інше: онлайн-чат із комерційним ШІ не варто сприймати як особистий щоденник, який ніхто, крім автора, ніколи не побачить.
Що сталося і чого ця історія не доводить
За повідомленням Tom’s Hardware, чати могли позначатися автоматично за певними сигналами, а частину випадків передавали на людську перевірку. У цьому епізоді співробітники вирішили повідомити правоохоронців.
Це не те саме, що твердження «Claude читає кожне повідомлення, а потім автоматично надсилає його поліції». Публічні матеріали описують конкретний випадок: система безпеки позначила повідомлення, відбулася людська перевірка, після чого компанія звернулася до правоохоронців. Також немає підстав стверджувати, що поліція отримує повний архів листування кожного користувача.
За оглядом Tom’s Hardware, це щонайменше третій подібний епізод із чатами Claude, про який повідомляли медіа від серпня. Це журналістський підрахунок відомих випадків, а не офіційна статистика Anthropic щодо всіх повідомлень чи перевірок.
Що каже політика Anthropic
У чинній політиці конфіденційності Anthropic сказано, що компанія може передати персональні дані державним органам, правоохоронцям або іншим сторонам, якщо на підставі доступної інформації має добросовісне переконання, що розкриття обґрунтовано необхідне. Серед наведених причин — виконання закону чи юридичного процесу, запобігання серйозній шкоді людям або майну, реагування на незаконну діяльність і захист прав та безпеки.
Це ширше за сценарій, у якому компанія реагує лише на судовий ордер, але не означає, що будь-який неприємний або дивний запит автоматично передають поліції. Політика описує, за яких умов компанія може розкрити дані; конкретна історія у Флориді показує, що Anthropic вирішила це зробити після людської перевірки повідомлень, які розцінила як загрозу.
Отже, користувачеві варто розуміти: листування відбувається через сервіс компанії, а не в зашифрованому особистому блокноті, що гарантовано недоступний третім сторонам. Політика конкретного сервісу й чинне законодавство визначають, що може статися з даними у виняткових ситуаціях.
Модерація не те саме, що навчання ШІ
У вірусних дописах часто змішують дві окремі теми: перевірку повідомлень на безпекові ризики та використання розмов для покращення моделей.
За довідкою Anthropic для споживчих акаунтів, чати Claude Free, Pro і Max можуть використовуватися для покращення моделей, якщо користувач погодився на це в налаштуваннях або окремо долучився до відповідної програми. Виняток — розмови, позначені для перевірки безпеки: компанія вказує, що може аналізувати їх для покращення виявлення шкідливого вмісту та роботи команд безпеки. Тобто неправильно стверджувати, ніби всі промпти безкоштовних користувачів автоматично й без вибору стають навчальними даними.
Для комерційних продуктів, зокрема Claude for Work та API, Anthropic зазначає, що за замовчуванням не використовує вхідні й вихідні дані для навчання моделей. Водночас «не навчаємо на даних за замовчуванням» не означає «дані ніхто й ніколи не обробляє» або «на них не поширюються правила безпеки й законні запити». У комерційних сервісів інші договірні умови та налаштування, але це не юридична недоторканність.
Як користуватися чат-ботами обачніше
•Не сприймайте чат із хмарним ШІ як захищену розмову з адвокатом, лікарем або психотерапевтом. Не передавайте зайві персональні, медичні, робочі чи конфіденційні дані.
•Перевірте налаштування приватності. З’ясуйте, чи дозволене використання ваших розмов для покращення моделі, і що саме відбувається з чатами, позначеними для перевірки безпеки.
•Для робочої інформації використовуйте затверджений роботодавцем сервіс. Не завантажуйте внутрішні документи в особистий акаунт лише тому, що він зручний.
•Локальна модель може зменшити передавання даних назовні, але не гарантує абсолютної приватності. Перевірте, чи програма справді працює офлайн і чи не надсилає телеметрію або запити через підключені сервіси.
•Не покладайтеся лише на видалення історії як на гарантію конфіденційності. Перед введенням чутливої інформації спершу з’ясуйте правила її зберігання та обробки.
Не щоденник і не поліцейський
Випадок у Флориді — серйозне нагадування про те, що чат-бот є водночас інструментом і онлайн-сервісом із власними правилами модерації та приватності. Але називати Claude «цифровим інформатором», який без розбору передає поліції листування всіх користувачів, так само неточно, як вважати будь-який чат гарантовано таємним.
Практичний висновок простіший і корисніший: перед тим як написати щось чутливе в хмарний ШІ, уявіть, що ці дані можуть бути оброблені компанією за її політиками — а в окремих обставинах розкриті відповідно до закону або для запобігання серйозній шкоді. Це не привід відмовлятися від технологій, але вагома причина не плутати доброзичливий тон чат-бота з конфіденційністю.
Джерела
Tom’s Hardware: Anthropic reports Florida woman's Claude threat to police
Anthropic Privacy Center: Is my data used for model training? — consumer accounts
