Компанія OpenAI анонсувала оновлення свого чатбота ChatGPT, щоб він краще розпізнавав ознаки психологічної кризи в користувачів і міг швидше реагувати на тривожні сигнали.
Про це повідомляє Bloomberg.
Серед запланованих змін — пояснення небезпеки виснаження, рекомендації відпочинку, а також нові інструменти для батьків, які дозволять контролювати використання чатбота їхніми дітьми.
Кроки компанії стали відповіддю на позов родини 16-річного школяра з Каліфорнії Адама Рейна, який загинув у квітні цього року. У позові стверджується, що ChatGPT став для підлітка «найближчим другом» і допоміг йому спланувати самогубство.
У дописі в блозі 26 серпня OpenAI заявила, що:
- удосконалить алгоритми виявлення психологічної кризи, зокрема у тривалих розмовах;
- запровадить доступ до екстрених служб прямо з інтерфейсу ChatGPT;
- розглядає створення мережі ліцензованих фахівців, до яких користувачі зможуть звертатися через чатбот;
- оновить систему контролю контенту, щоб уникнути випадків, коли тривожні повідомлення користувачів ігноруються.
ChatGPT, який працює з кінця 2022 року, щотижня використовують понад 700 млн людей. Журналісти пишуть, що популярність чатботів викликала занепокоєння серед експертів з психічного здоров’я та регуляторів.
Минулого тижня понад 40 генеральних прокурорів США попередили провідні AI-компанії про юридичну відповідальність за захист дітей від небезпечної взаємодії з чатботами.
Читайте також: Після скарг користувачів для ChatGPT готують нові оновлення
