OpenAI опублікувала тривожні цифри, що стосуються психічного здоров'я користувачів ChatGPT.
OpenAI опублікувала тривожні цифри. За даними компанії, щодня ChatGPT зустрічає від 0,15% своїх активних користувачів, які демонструють ознаки можливого планування або наміру вчинити самогубство. З урахуванням величезної аудиторії, що перевищує 800 мільйонів відвідувань на тиждень, це означає, що понад мільйон людей щотижня обговорюють подібні думки з ШІ.
Ці дані стали частиною нового звіту OpenAI, в якому підкреслюється, що не тільки випадки з суїцидальними думками викликають побоювання. Тисячі користувачів також виявляють "підвищену емоційну прив'язаність" до ChatGPT, а сотні тисяч - ознаки психозу або манії під час своїх розмов зі ШІ.
Компанія зазначає, що такі випадки є рідкісними, проте їхні масштаби досить значні і потребують особливої уваги. У відповідь на ці проблеми OpenAI провела консультації з понад 170 фахівцями в галузі психічного здоров'я, що дало змогу поліпшити реакцію останньої моделі GPT-5.
Порівняно з попередніми версіями, GPT-5 виявилася на 65% ефективнішою в адекватному реагуванні на подібні випадки,
особливо в ситуаціях, пов'язаних із загрозою самогубства, - вказують у компанії.
Гострою ця проблема стала після трагічного випадку з 16-річним підлітком, який, перед своєю смертю, поділився суїцидальними думками з ChatGPT. Це призвело до судового позову від батьків, а також до пропозиції з боку генеральних прокурорів Каліфорнії та Делавера про необхідність захистити неповнолітніх користувачів.
Для поліпшення ситуації в OpenAI заявили, що впровадять нові механізми контролю, включно з аналізом емоційної залежності та розробками, спрямованими на посилення батьківського контролю, а також прогнозуванням віку користувачів.
Це дасть змогу компанії обмежувати доступ неповнолітніх до небезпечних розмов і контенту, - вважають у компанії.
Водночас генеральний директор OpenAI Сем Альтман заявив, що компанія планує дозволити дорослим обговорювати з ШІ еротичний контент, що викликає нові запитання щодо безпеки та етики використання ШІ.
