Компанія OpenAI оголосила про розробку автоматизованої системи визначення віку користувачів ChatGPT. Її мета — виявляти, чи користувачеві менше 18 років, і автоматично перенаправляти молодших до спеціальної версії чат-бота з обмеженим функціоналом.
Читайте також:
Claude знову здивував. ШІ тепер може писати код і редагувати документи, як справжній співробітник Крім того, до кінця вересня планується запуск батьківського контролю, який дозволить дорослим керувати доступом своїх дітей до сервісу. Завдяки цьому нововведенню буде вимкнено функцію пам’яті та збереження історії чатів, а також встановлено «темні години» — певні періоди, коли підлітки не зможуть користуватися ChatGPT. Додатково, у разі виявлення ознак емоційної кризи у дитини, батьки отримуватимуть сповіщення.
У виняткових випадках, коли батьків неможливо оперативно залучити, OpenAI допускає звернення до правоохоронних органів.
Генеральний директор OpenAI Сем Альтман визнав, що компанія ставить безпеку підлітків вище за конфіденційність дорослих. У майбутньому користувачам, старшим за 18 років, можливо,
доведеться підтверджувати свій вік — навіть за допомогою документів. Це викликає дискусії, адже технологія вікового визначення на основі тексту ще далека від досконалості.
Дослідження показують, що точність таких систем залежить від багатьох факторів — наприклад, у контрольованих умовах вона може сягати 96%, але в реальному середовищі з нечесними користувачами — падає до 54%.
OpenAI приєднується до інших платформ, які вже впровадили вікові обмеження — як-от YouTube Kids, Instagram Teen Accounts та TikTok. Проте проблема обходу перевірки віку залишається актуальною: за даними BBC, 22% дітей вказують неправдиву дату народження, щоб отримати доступ до контенту для дорослих.
Нововведення стали реакцією на трагічний випадок, коли 16-річний хлопець вчинив самогубство після тривалого спілкування з ChatGPT. Система не втрутилася, хоча зафіксувала сотні повідомлень із ознаками самопошкодження. Це викликало хвилю критики щодо ефективності захисних механізмів ШІ.
OpenAI обіцяє вдосконалити безпеку, навіть якщо це потребуватиме компромісів у конфіденційності. Компанія визнає, що спілкування з ШІ стає дедалі особистішим — і саме тому потребує особливої відповідальності.
Читайте також:
ШІ-освіта. Як уряд США та ІТ-компанії готують учнів до цифрового майбутнього
