OpenAI запускає в ChatGPT нову систему прогнозування віку для користувачів споживчих тарифів. Її мета — краще визначати акаунти людей молодших за 18 років і застосовувати до них відповідні обмеження.
Про це повідомляє видання Interesting Engineering.
Компанія відходить від практики, коли вік визначали лише зі слів користувача. Натомість використовуватимуть автоматичні запобіжники, засновані на поведінці в акаунті. В OpenAI пояснюють, що це дозволить забезпечити додатковий захист для підлітків і водночас залишити дорослим доступ до ChatGPT з меншою кількістю обмежень.
Запуск системи відбувається на тлі посиленої уваги з боку регуляторів і законодавців, які вимагають від ШІ-компаній кращого захисту неповнолітніх.
Модель прогнозування віку аналізує низку сигналів на рівні акаунта. Зокрема, враховується, як давно створений акаунт, як змінюється активність з часом, у які години зазвичай користуються сервісом, а також будь-яка інформація про вік, яку користувач надавав раніше. В OpenAI зазначають, що такий підхід допомагає приблизно визначати вік без постійних перевірок особи чи повторних запитів.
Систему називають адаптивною, а не остаточною. Якщо даних недостатньо, ChatGPT автоматично переходить у більш безпечний режим. Коли модель вважає, що акаунт, ймовірно, належить неповнолітньому, платформа застосовує додаткові обмеження.
Ці обмеження зменшують доступ до категорій контенту, які вважаються ризикованими для підлітків. Йдеться про сцени жорстокого насильства, криваві зображення, матеріали про самоушкодження, а також сексуальні або насильницькі рольові ігри. Також обмежується контент із вірусними челенджами, що можуть заохочувати небезпечну поведінку, і матеріали, які пропагують нереалістичні стандарти краси, нездорові дієти або приниження зовнішності.
У компанії пояснюють, що рішення ухвалювали за участі фахівців із розвитку дітей. Вони посилаються на дослідження, які показують, що підлітки по-іншому оцінюють ризики та мають нижчий рівень імпульсивного контролю, ніж дорослі.
OpenAI визнає, що автоматичні системи можуть помилятися. Якщо користувача помилково визначили як неповнолітнього, він може відновити повний доступ через перевірку віку. Для цього використовують селфі-перевірку через сервіс Persona,
який уже застосовується для підтвердження особи на інших платформах, зокрема Roblox. У налаштуваннях ChatGPT можна перевірити, чи діють обмеження для акаунта, і розпочати процес верифікації. У компанії наголошують, що перевірка є швидкою і не потребує постійного зберігання документів, що часто викликає занепокоєння щодо приватності.
Система прогнозування віку доповнює раніше запроваджені функції для підлітків. Останніми місяцями OpenAI додала батьківські інструменти контролю, які дозволяють налаштовувати час користування, окремі функції та отримувати сповіщення у разі ознак гострого емоційного стану. Також компанія створила зовнішню раду експертів, яка досліджує вплив ШІ на психічне здоров’я та емоційний добробут і консультує щодо рішень для вразливих користувачів.
Запуск нової системи відбувається на тлі зростання регуляторного тиску в США та інших країнах. Федеральна торгова комісія США вивчає, як ШІ-чатботи можуть впливати на дітей і підлітків, а проти OpenAI також подано позови, пов’язані з безпекою користувачів.
У компанії повідомляють, що й надалі вдосконалюватимуть модель прогнозування віку, відстежуватимуть її точність і спроби обходу обмежень. Протягом найближчих тижнів систему планують запустити в країнах Європейського Союзу з урахуванням регіональних вимог. В OpenAI зазначають, що вважають оновлення важливим кроком, але підкреслюють: робота над чутливим до віку дизайном ШІ триває, і про подальші зміни обіцяють повідомляти окремо.
Читайте також:
- Тотальне стеження. Як штучний інтелект змінює міську безпеку (і чи на краще)
- Штучний інтелект замість людей. Європа готується до скорочення 200 тисяч робочих місць у банківському секторі
- GPT, рятуй. Чи спроможний штучний інтелект замінити живих лікарів?
