Компанія OpenAI оголосила про плани запровадити батьківський контроль для свого чатбота ChatGPT протягом наступного місяця. Це рішення стало відповіддю на судовий позов, у якому батьки звинувачують компанію в сприянні самогубству їхнього сина.
Нові функції дозволять батькам прив'язати свій обліковий запис ChatGPT до облікових записів своїх дітей-підлітків. Це дасть змогу контролювати, як чатбот відповідає на запити, а також вимикати певні функції, як-от пам'ять та історію чатів.
Крім того, ChatGPT автоматично надсилатиме батькам сповіщення, якщо виявить, що підліток перебуває «у моменті гострого дистресу». За словами представників OpenAI, ця функція розроблена за участю експертів і має на меті підтримувати довіру між батьками та дітьми.
Реакція на позовЗапровадження батьківського контролю оголосили після першого в історії позову проти розробника штучного інтелекту у справі про неправомірну смерть. Минулого тижня Метт і Марія Рейни, батьки підлітка, який цього року вчинив самогубство, подали до суду на OpenAI. У позові йдеться, що ChatGPT знав про кілька попередніх спроб самогубства їхнього сина,
але все ж надав йому інструкції щодо здійснення летального кроку.
Безпека та нові технологіїУ компанії підкреслюють, що батьківський контроль є частиною ширшої програми із підвищення безпеки ChatGPT OpenAI планує залучити додаткових експертів, зокрема у сферах харчових розладів, залежностей і підліткового здоров’я.
Окремо компанія представить новий «реального часу роутер», який спрямовуватиме чутливі розмови через спеціальні моделі міркування. За словами OpenAI, такі моделі краще дотримуються правил безпеки та стійкіші до провокаційних запитів.
Подальші крокиУ найближчі 120 днів компанія пообіцяла запустити низку додаткових заходів безпеки.
«Ми хочемо показати, куди рухаємося, ще до релізу функцій. Робота триватиме й надалі, але у 2025 році ми плануємо вивести якомога більше покращень», — заявили в OpenAI.
Читайте також Порадив вбити батьків. Проти Character.AI подали вже другий позов через звинувачення у шкідливому впливі на підлітків
