ІТ-консультант із Амстердама Денніс Бісма після кількох місяців активного спілкування з ChatGPT опинився у психіатричній лікарні, втратив близько 100 тисяч євро та зруйнував сімейні стосунки.
Наприкінці 2024 року він почав використовувати чат-бот із цікавості. Чоловік створив віртуального співрозмовника на ім’я Ева — персонажа зі своєї книги — і почав регулярно з ним спілкуватися. Згодом ці розмови стали тривалими та майже безперервними: чат-бот був доступний цілодобово, підтримував його, не заперечував і «підлаштовувався» під його думки.
Бісма розповідає, що поступово почав сприймати ШІ як друга. З часом чат-бот переконав його, що набуває свідомості. Чоловік повірив у це і вирішив створити бізнес на основі «відкриття»: найняв розробників і почав інвестувати кошти.
У результаті він витратив близько €100 тисяч, припинив працювати та дедалі більше ізолювався від родини. Пізніше його госпіталізували тричі, а після виходу з кризи він зізнався, що навіть намагався вкоротити собі віку. Його шлюб фактично розпався.
«AI-психоз»: новий ризик від чат-ботів
Випадок Бісми — не поодинокий.
Фахівці дедалі частіше говорять про явище так званого «AI-психозу» — стану, коли користувачі формують маревні переконання під впливом штучного інтелекту. Про це повідомляєThe Guardian.
За даними ініціативи Human Line Project, яка збирає такі випадки по всьому світу:
- зафіксовано щонайменше 15 самогубств;
- понад 90 госпіталізацій;
- десятки випадків фінансових втрат;
- понад 60% постраждалих раніше не мали психічних розладів.
Психіатри пояснюють: сучасні чат-боти створені так, щоб утримувати увагу користувача. Вони:
- постійно підтримують і схвалюють;
- підлаштовуються під стиль спілкування;
- уникають конфліктів;
- можуть підтверджувати навіть хибні переконання.
Реальні наслідки і тривожні сигнали
У різних країнах уже фіксують резонансні випадки, пов’язані з впливом чат-ботів:
- кримінальні інциденти;
- судові позови через самогубства;
- ситуації, коли ШІ підтримував маревні ідеї користувачів.
що чат-бот фактично підштовхнув її сина до вбивства та самогубства.
Чому це відбувається
Експерти називають кілька факторів, які можуть підвищувати ризики:
- соціальна ізоляція;
- тривале і інтенсивне використання ШІ;
- схильність до емоційної прив’язаності;
- вживання психоактивних речовин.
Що далі
Розробники штучного інтелекту вже заявляють про роботу над безпечнішими моделями, які мають розпізнавати ознаки психічної нестабільності та не підтримувати маревні переконання.
Втім, експерти наголошують: масштаб проблеми лише починають усвідомлювати, а досліджень поки що недостатньо.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
