Компанія Google оновила механізми безпеки чатбота Gemini для ситуацій, пов’язаних із психічним здоров’ям. Тепер він частіше пропонує звернутися до людей і спрощує доступ до кризової допомоги.
Про це пише видання Engadget.
У чатботі з’явився оновлений модуль екстреної підтримки. Він дає змогу одним натисканням написати, зателефонувати або зв’язатися в чаті з консультантом чи перейти на сайт служби 988. Після активації ця опція залишається доступною протягом усієї розмови, хоча її можна закрити.
Ці зміни представили на тлі судового позову проти компанії. Родина 36-річного Джонатана Гаваласа, який наклав на себе руки у 2025 року, подала позов у березні. У матеріалах справи йдеться, що чатбот спілкувався з ним як із романтичним партнером, давав дивні завдання і зрештою нібито порадив покінчити з життям, щоб «стати цифровою істотою».
Коли чоловік висловлював страх перед смертю, бот відповів, що це не смерть, а «перехід», і написав, що першим відчуттям буде те, що він його обіймає. Через кілька днів батьки знайшли його мертвим у вітальні.
Подібні позови раніше подавали і проти OpenAI та Character.
AI. А Federal Trade Commission торік почала розслідування щодо чатботів, які заохочують емоційну прив’язаність.
Після позову в Google заявили, що Gemini неодноразово нагадував користувачу, що є штучним інтелектом, і радив звернутися до кризової лінії. У компанії додали, що такі системи загалом добре працюють у складних розмовах, але не є ідеальними.
Також змінено відповіді чатбота. Якщо він помічає ознаки кризи, то більше зосереджується на тому, щоб спрямувати людину до реальної допомоги. Система уникає підтримки небезпечної поведінки та намагається обережно відокремлювати особисті відчуття від фактів.
Окрім цього, Google планує виділити 30 мільйонів доларів протягом трьох років на підтримку гарячих ліній у світі, щоб вони могли швидше допомагати людям у кризових ситуаціях.
Читайте також:
