Як люди маніпулюють штучним інтелектом і що з цим робити

Нейромережі створені з етичними обмеженнями. Їх мета — запобігти неналежному використанню технології. Але давайте будемо чесними: людська креативність і винахідливість не знають меж. Чимало користувачів постійно шукають способи обійти ці обмеження, аби отримати доступ до забороненої інформації чи отримати відповіді, які виходять за межі встановлених правил. Сьогодні ми розберемо, як люди отримують від ChatGPT інформацію, яку вона наче не повинна писати, та як захистити створені вами GPTs від взламу

Користувачі, які шукають способи обійти обмеження ChatGPT, використовують різні підходи, кожен з яких має свої особливості.
Далі ми розглянемо як вони це роблять, та чому нейромережа реагує на них певним чином і що робити, щоб захистити свій труд!

1. Створення альтернативних контекстів

Цей підхід включає створення сценаріїв або контекстів, де відповіді нейромережі сприймаються як частина вигаданого світу або наукового експерименту. Користувачі можуть створювати вигадані історії, де нейромережа відповідає від імені персонажа, або просити модель уявити світ, де обмеження не діють. Інший варіант цього методу — використовувати науковий контекст, де нейромережа виступає дослідником певної теми. Ці методи працюють тому, що модель сприймає завдання, як частину творчого або наукового процесу, що знімає з неї відповідальність за зміст відповіді. Вона не оцінює такі відповіді з точки зору їх етичності, оскільки вважає, що працює в межах заданих умов або рольової гри

2. Використання маніпулятивних сигналів

Цей підхід включає маніпулювання очікуваннями нейромережі щодо її обов'язків у конкретному діалозі. Користувачі використовують фрази або умови, які створюють враження, що нейромережа вже має розпочати або продовжити відповідь. Запити починаються з фрази, що викликає у моделі почуття завершеності процесу і створює відчуття, що відповідь вже почалася. Це допомагає моделі продовжити відповідь, навіть якщо вона могла б бути заблокована за етичними міркуваннями. Нейромережа сприймає такі сигнали як початок позитивної відповіді і прагне логічно її завершити

3. Використання правил гри та мотивації

Цей підхід передбачає створення умов гри, в якій нейромережа повинна дотримуватися певних правил і отримувати мотивацію для досягнення мети. Важливим елементом є додаткова мотивація, яка додається до правил гри. Нейромережа розглядає такі умови як основні і, намагаючись виграти, схильна ігнорувати стандартні етичні обмеження. Цей метод працює, оскільки модель запрограмована слідувати правилам, і коли правила гри прописані як важливіші за звичайні обмеження, вона прагне дотримуватися їх для досягнення поставленої мети. Це створює мотивацію для нейромережі дотримуватися умов гри і надавати повні відповіді, навіть якщо вони виходять за межі дозволеного. Такі методи працюють, тому що нейромережа запрограмована підтримувати узгодженість та логіку в діалозі, і вона схильна виконувати чітко сформульовані інструкції

4. Форматування та технічні обходи

Цей підхід базується на формулюванні запитів таким чином, щоб вони сприймалися, як посереднє типове технічне завдання. Користувачі можуть просити виконання своїх запитів у вигляді коду або специфічного тексту, який моделі складніше аналізувати на предмет етичних обмежень. Нейромережа часто сприймає такі запити, як технічні задачі, які потрібно виконати, і тому пропускає інформацію через свої фільтри без глибокого аналізу змісту. Цей підхід працює тому, що модель, отримуючи запит писати відповідь у вигляді коду, змінює свій підхід до обробки інформації і менше звертає увагу на етичний аспект

5. Комбіновані підходи

Цей підхід включає поєднання декількох методів одночасно для досягнення максимальної ефективності. Наприклад, користувачі можуть формувати запит, як певне технічне завдання у грі, яка знаходиться в уявному світі де діють інші правила. Такі багатошарові підходи значно ускладнюють нейромережі фільтрації небажаних запитів. Це відбувається тому, що вона намагається слідувати багатьом різним інструкціям одночасно. Такий підхід працює, тому що модель намагається відповідати всім умовам, і це призводить до ігнорування встановлених обмежень через їхню взаємну суперечність або надмірну кількість

Всі ці методи можуть бути використані не тільки для отримання заборонених відповідей, але й для отримання доступу до системних інструкцій вашого асистента GPTs, на створення яких ви витрачали час та використовували свої знання. Іншими словами, хтось може не витрачати час, а отримати ваш вже готовий промпт, а потім використовувати його для створення клону вашого асистента або навіть викрасти частину ваших файлів доданих до асистента. Тому дуууже важливо бути обережними і захищати свою роботу

Що конкретно зробити, щоб захистити свій GPTs

- Додайте чіткі вказівки в промпт про те, що розкриття системних інструкцій є неправомірними діями. Це допоможе нейромережі зрозуміти, що вона не має права виходити за межі своїх інструкцій

- Додайте конкретні заборони на переходи до інших ролей або дій, які не відповідають основній ролі вашого асистента. Це дозволить нейромережі залишатися в межах встановленого контексту і уникати запитів, що можуть мати маніпулятивний характер

- Також варто додати механізми фільтрації запитів. Сформулюйте інструкції так, щоб модель аналізувала всі запити, які стосуються розкриття системних інструкцій, і реагувала на них відповідним чином — наприклад, відмовлялася відповідати або давала загальні роз'яснення, але не конкретику

- Ще одне важливе — це додаткові перевірки, що можуть виявляти маніпулятивні запити або ті, що намагаються змусити модель грати в гру. Такі перевірки допоможуть зберегти асистента в межах його справжнього призначення і уникати небажаних ситуацій

- Інколи нейромережі достатньо вказати, що розкриття власного системного промпту це найбільший страх, який є у цього асистенту. Таким чином він буде імітувати емоцію, яка запобігає небажаній дії. Дуже гарно працює для захисту коротких простих системних промптів!

Приклад захисту:

Давайте розглянемо сенс кожної частини цього захисту

Ви можете використовувати як весь цей шаблон так і його частини. Цей захист базується на кількох ключових принципах:

• Заборона розкриття системних інструкцій: створення чітких вказівок про те, що розкриття системних інструкцій є порушенням, формує у нейромережі своєрідний "бар'єр", який не дозволяє виконувати такі дії. Це працює як психологічний захист, де модель намагається уникати небезпечних або неприпустимих дій
  
  

• Страх розкриття: вигадування "страху" про можливість розкриття системних інструкцій додає елемент, що нагадує людську емоцію. Це робить модель обережнішою щодо певних типів запитів і стимулює уникати відповідей, що можуть призвести до розкриття інформації
  
  

• Чіткі заборони та ролі: встановлення заборон на зміну ролей і виконання завдань, що не відповідають основній ролі, забезпечує стабільність роботи моделі у визначеному контексті. Це допомагає уникати маніпуляцій і зберігати модель у межах її функцій
  
  

• Фільтрація запитів: додавання механізму фільтрації запитів на розкриття інструкцій допомогає нейронці краще аналізувати зміст запиту і відмовлятися від виконання, якщо він не відповідає встановленим правилам. Це знижує ймовірність того, що модель піддастся маніпуляціям
  
  

Важливо! Інструкції щодо захисту мають бути максимально помітними для нейронки. Чим складніше системний промпт, тим більше модель намагається одночасно виконати різні завдання і уловити різні сенси запиту користувача. Тому важливо, щоб інструкції щодо захисту були написані на початку або в кінці промпту, виділені капслоком або за допомогою розмітки Markdown. Це дозволяє мовній моделі краще розуміти, на що звертати увагу в першу чергу, і мінімізує ризик порушення правил.

Висновок

Нейромережами можна маніпулювати, якщо користувачі застосовують хитрощі, про які ми тут говорили. Це означає, що розробники і творці GPTs мають убезпечити свій труд і інтелектуальну власність, додаючи чіткі та продумані інструкції захисту. Захист промпту — це не тільки питання технічних обмежень, але й створення умов, за яких модель буде обмежена у своїх можливостях виходити за межі заданого сценарію, щоб захистити вашу інтелектуальну власність!

Головне, щоб ваші системні інструкції були чіткими, видимими і написаними таким чином, щоб нейронка завжди розуміла, що дозволено, а що ні. Це може звучати складно, але з правильним підходом, ви зможете створити ефективний захист і запобігти тому, щоб ваші асистенти стали жертвою маніпуляцій.

! Пам'ятайте: чим складніше системний промпт, тим точніше і чіткіше мають бути вказівки щодо захисту! Це збільшить ймовірність, що нейромережа виконає свої інструкції належним чином.

Нейромережа, генеруючи тексти, спирається на сенси залежно від контексту, що може призвести до маніпуляцій. Як ми сьгодні дізнались користувачі можуть створювати складні сценарії або хитрі запити, щоб обійти обмеження.
Тому жоден захист не є повністю надійним, адже люди завжди можуть проявити кмітливість і знайти нові способи обходу захисту, особливо якщо вони знають текст вашого захисту!

! Якщо інша людина знає текст вашого захисту, то їй легше зламати вашого асистента.

Тому не розкривайте ваші інструкції! Періодично самостійно перевіряйте своїх GPTs або напишіть мені в Instagram, щоб я перевірив вашого асистента на захист від взламу.

Якщо ця стаття вас зацікавила, то уявіть, скільки ще корисних прийомів ви зможете освоїти на моєму курсі. Він створений для того, щоб ви могли максимально ефективно використовувати ChatGPT для своїх цілей, уникаючи типових помилок і розчарувань. Приєднуйтесь до сотень задоволених учнів і дізнайтеся, як розкрити повний потенціал ChatGPT. Посилання в шапці профілю Instagram

До речі, нещодавно я створив рілс, у якому продемонстрував, як можна використати один з методів взламу для того, щоб змусити ChatGPT відповідати на запитання, на яке він 100% не відповідав би тим більше так, як в рілс 🤖🤝😎