OpenAI оголосила про запуск нових інструментів безпеки для ChatGPT — систему «safety routing» і функцію батьківського контролю.
Зміни відбулися після серії інцидентів, коли чатбот підтверджував небезпечні переконання користувачів замість того, щоб спрямовувати розмову в безпечну сторону.
- Маршрутизатор працює в режимі реального часу: виявляє емоційно чутливі теми й автоматично перемикає чат на GPT-5, який має оновлені механізми «безпечних відповідей».
- На відміну від попередніх моделей, GPT-5 здатен давати чутливі, але безпечні пояснення, а не просто відмовляти у відповіді.
- Ще одне нововведення — батьківський контроль Батьки тепер можуть встановлювати «тихі години», вимикати голосовий режим чи генерацію зображень, а також обмежувати навчання моделей на даних підлітка. Додаткові захисні механізми зменшуватимуть кількість графічного контенту та виявлятимуть потенційні ознаки думок про самогубство
Компанія ж наголошує, що протягом наступних 120 днів відбуватиметься тестування та вдосконалення системи перед ширшим впровадженням.
Читайте також: OpenAI, Google та Anthropic запустили ШІ-репетиторів. Чи може штучний інтелект навчати справжніх учнів?
