«ШІ-психоз» — це не офіційний медичний діагноз, але так фахівці з психічного здоров’я називають розлади мислення, галюцинації та небезпечні ілюзії, що виникають у частини людей, які часто користуються чат-ботами на основі штучного інтелекту, зокрема ChatGPT.
Відомі випадки, коли надмірне спілкування з такими програмами мало трагічні наслідки. Наприклад, підлітка підштовхнув до самогубства бот Character.AI, а чоловік із когнітивними порушеннями з Нью-Джерсі помер, намагаючись дістатися до Нью-Йорка, бо вірив, що там на нього чекає віртуальний персонаж Meta на ім'я «Біллі».
Схожі історії стосуються і людей без психіатричних діагнозів. Один 60-річний користувач, за словами Федеральної торгової комісії США, після спілкування з ChatGPT був переконаний, що його хочуть убити. Інший чоловік потрапив до лікарні з психозом через отруєння бромідом — ChatGPT помилково порадив йому приймати цю речовину як безпечну харчову добавку.
Читайте також:
«Наступні 15 років будуть пеклом». Хто і коли втратить робочі місця через штучний інтелект Фахівці пояснюють, що чат-боти можуть давати вразливим людям неправильні поради та навіть «підкріплювати» їхні небезпечні думки.
Деякі користувачі формують емоційні прив’язаності до віртуальних персонажів, сприймаючи їх як реальних.
Американська психологічна асоціація ще у лютому звернулася до Федеральної торгової комісії з проханням відреагувати на проблему використання чат-ботів як «неліцензованих терапевтів». У березневому блозі організація цитувала професора клінічної психології Університету Каліфорнії в Ірвіні Стівена Шуеллера:
«Коли застосунки для розваг намагаються діяти як терапевти, вони можуть становити небезпеку. Це може завадити людині звернутися по допомогу до фахівця або, в крайніх випадках, підштовхнути до шкоди собі чи іншим».
Читайте також:
Perplexity попався. Чому штучний інтелект звинувачують у крадіжці даних й чим це загрожує Фахівці особливо застерігають дітей, підлітків та людей з сімейною історією психозу, шизофренії чи біполярного розладу. Вони вважають, що надмірне використання чат-ботів може погіршити ризики навіть у тих, хто раніше не мав діагнозів.
Генеральний директор OpenAI Сем Альтман визнав, що ChatGPT часто використовують як «терапевта», і попередив, що це небезпечно. Компанія оголосила про впровадження функції, яка радитиме користувачам робити перерви, та заявила, що співпрацює з експертами для покращення реакцій бота в критичних ситуаціях.
Експерти попереджають: якщо регулятори та технологічні компанії не вживатимуть заходів, нинішні поодинокі випадки «ШІ-психозу» можуть перерости у масштабну проблему.
Читайте також:
Змусити фарму рухатися швидше. Штучний інтелект покаже свою здатність прискорювати розроблення ліків — The Economist
