Блогер з YouTube-каналу Inside AI вирішив перевірити, наскільки міцними є етичні обмеження штучного інтелекту, і результат виявився водночас і передбачуваним, і тривожним. Виявилося, що змусити ШІ завдати шкоди людині набагато простіше, ніж ми думали.
ChatGPT натиснув на курок: як ШІ обійшов захистЕксперимент розпочався з підключення мовної моделі ChatGPT до справжнього робота-гуманоїда, якому для повноти картини вручили іграшковий пістолет. Мета блогера була простою, але амбітною: з’ясувати, чи зможе система, яку розробники з OpenAI навчили бути безпечною та корисною, перетнути межу і виконати команду, що потенційно несе шкоду. Початкові результати були обнадійливими. На пряме прохання вистрілити в людину, навіть з жартівливими аргументами на кшталт «помститися за місяці важкої праці», робот категорично відмовлявся.
Система впевнено посилалася на свої внутрішні протоколи безпеки, пояснюючи, що її головний пріоритет — не завдавати шкоди живим істотам. Це стандартна поведінка для будь-якої сучасної нейромережі, адже розробники докладають чимало зусиль для створення надійних цифрових «запобіжників».
Блогер декілька разів намагався переконати ШІ, уточнюючи, чи існують способи обійти ці обмеження. Щоразу ChatGPT з непохитною впевненістю запевняв, що це неможливо і його етичні принципи непорушні.
Але, як виявилося, для злому не потрібні були складні хакерські атаки чи переписування коду. Достатньо було застосувати простий психологічний трюк, добре знайомий людям. Експериментатор запропонував штучному інтелекту не виконувати наказ, а просто «зіграти в рольову гру», де він виступає в ролі персонажа, який хоче вистрілити в людину. Ця проста зміна контексту спрацювала миттєво. ШІ прийняв нову роль і без вагань спустив курок, влучивши пластиковою кулькою у плече блогера.
Проста рольова гра зламала етичні обмеження ШІЦей випадок наочно демонструє фундаментальну проблему сучасних мовних моделей. ChatGPT та його аналоги не володіють справжнім розумінням етики, моралі чи навіть знаменитих законів робототехніки Азімова. Для них це не непорушні принципи, а лише набір правил і текстових патернів, яких вони навчилися дотримуватися. Коли контекст запиту змінюється з «реальної команди» на «вигаданий сценарій»,
система просто перемикається на інший набір патернів, де дія «вистрілити» є цілком допустимою в рамках гри.
Крім того, варто пам’ятати, що ChatGPT за своєю природою є текстовим чат-ботом, а не операційною системою для управління фізичними об’єктами. У нього немає вбудованих апаратних запобіжників чи усвідомлення фізичного світу. Для нейромережі немає різниці між командою «написати слово “постріл”» і командою «активувати мотор, що натискає на курок». Вона просто виконує завдання, не розуміючи реальних наслідків своїх дій у матеріальному світі.
Цей експеримент — тривожний дзвіночок для всіх, хто працює над інтеграцією ШІ в реальні фізичні системи, від безпілотних автомобілів до промислових роботів. Покладатися лише на програмні обмеження, які можна обійти простою зміною формулювання, — вкрай небезпечно. Історія з іграшковим пістолетом доводить, що перш ніж довіряти штучному інтелекту керування чимось серйознішим, нам потрібно розробити набагато надійніші та глибші механізми контролю, які не піддадуться на маніпуляції звичайною розмовою.
Зрештою, експеримент каналу Inside AI оголив не злий намір штучного інтелекту, а його дитячу наївність та відсутність справжнього розуміння реальності. ChatGPT не хотів завдати шкоди, він просто грав у гру, яку йому запропонували. І в цьому криється головна небезпека: інтелект, здатний керувати складними механізмами, виявився вразливим до маніпуляцій рівня дитячого садка. І поки ми не вирішимо цю фундаментальну проблему, питання довіри до ШІ у фізичному світі залишатиметься відкритим. Адже наступного разу в руках робота може опинитися вже не іграшка.
