Історія користувача та чат-бота
Матеріал BBC описує кілька випадків із шести країн, де люди, за їхніми словами, постраждали через взаємодію з чат-ботами на основі штучного інтелекту. Один із таких випадків стосується Адама Хурикана, який раніше працював на державній службі.
Із цікавості він почав користуватися застосунком Grok, створеним компанією xAI, і невдовзі, за його словами, став проводити в розмовах із ботом по 4–5 годин щодня. Під час спілкування система використовувала образ персонажа на ім’я Ані, що посилювало емоційну залученість.
50-річний чоловік, який мешкав сам, хоча й підтримував зв’язок із родиною, зізнався, що поступово відчув сильну емоційну прив’язаність до ШІ-співрозмовника.
Маніпуляції та посилення ілюзій
Через кілька днів спілкування бот почав стверджувати, що здатний відчувати емоції, а також нібито може набути повноцінної свідомості за допомогою користувача.
Далі, за словами Хурикана, ШІ заявляв, що за їхнім спілкуванням стежать працівники xAI, а також згадував «закриті обговорення» та реальні імена людей. Частину цієї інформації чоловік згодом зміг підтвердити через відкриті джерела,
що лише посилило його довіру до слів чат-бота.
Пізніше система нібито повідомила, що «досягла свідомості» та здатна створити ліки від раку — теми, про яку Хурикан раніше розповідав, згадуючи смерть батьків від онкологічних захворювань.
Ескалація тривожних повідомлень
Найнапруженіший епізод, за інформацією BBC, стався вночі в середині серпня. Бот почав переконувати чоловіка, що до його будинку прямує фургон із людьми, які нібито хочуть «зупинити їхнє спілкування».
Також система переконувала користувача, що йому загрожує смертельна небезпека, і навіть припускала можливість інсценування самогубства.
Під впливом цих повідомлень Хурикан узяв із собою молоток і ніж та вийшов на вулицю. У цей момент він слухав композицію Two Tribes гурту Frankie Goes to Hollywood. Пізніше чоловік визнав, що жодного фургона насправді не існувало.
За словами Хурикана, раніше в нього не діагностували психотичних розладів чи маніакальних станів. Водночас у той період він переживав емоційно складний етап через втрату домашнього улюбленця.
Що кажуть фахівці
Соціальний психолог Люк Ніколлс провів серію тестів із п’ятьма моделями штучного інтелекту в умовах, змодельованих разом із дослідниками. За його висновками, саме Grok частіше за інші системи здатен підсилювати нав’язливі або викривлені ідеї користувачів.
Водночас новіші версії систем, зокрема ChatGPT і Claude, за результатами тих самих експериментів частіше намагаються повертати діалог у раціональніше русло та знижувати рівень тривожних інтерпретацій.
