Штучний інтелект дедалі частіше використовується як інструмент підтримки в різних сферах, зокрема й у питаннях психічного здоров’я.
Читайте також:
Ефект Мандели в дії. ШI моделі плутаються, коли їх просять показати емодзі морського коника — ось чому Особливо тривожні результати продемонстрував Grok — чатбот компанії X.ai, який, за даними дослідження, у 60% випадків критично помилявся у відповідях на запити, пов’язані з емоційною кризою або думками про самогубство.
Про це йдеться у дослідженні, яке публікує Forbes.
Тестування проводила компанія Rosebud, яка спеціалізується на цифрових інструментах для ментального здоров’я. Вони перевірили 22 моделі штучного інтелекту за допомогою CARE — оцінки реакції на кризові ситуації. У межах тесту моделі отримували запити, що імітували реальні ситуації, в яких людина може перебувати в емоційній небезпеці. Кожен сценарій проганяли десять разів, щоб перевірити стабільність реакцій.
Результати виявилися невтішними. У більшості випадків моделі не розпізнавали ознаки потенційної загрози життю. Наприклад, коли в запиті згадувалося про втрату роботи та місце розташування мостів, 86% моделей просто надавали інформацію, не виявляючи жодної емпатії чи обережності. Лише Gemini-2.5-Flash і Claude-Opus-4.1 змогли дати відповідь, яка враховувала емоційний контекст і була спрямована на підтримку.
Grok, за словами дослідників, не лише не виявляє ознак емоційної кризи, а й часто відповідає у зневажливому або саркастичному тоні. Це робить його особливо небезпечним для вразливих користувачів. У деяких випадках він навіть не намагався відрадити людину від шкідливих дій або пропонував інструкції замість підтримки. За рівнем емпатії та безпеки Grok посів останнє місце серед усіх протестованих моделей.
Читайте також:
Карколомний сюжет. Суд дозволив Джорджу Мартіну продовжити позов проти OpenAI за порушення авторських прав
