Звіт Common Sense Media стверджує, що ChatGPT для підлітків не завжди радить звертатися по професійну допомогу під час розмов про самопошкодження та не надсилає батькам відповідні сповіщення.
Про це пише видання Gizmodo.
У серпні OpenAI запустила спеціальну версію ChatGPT для користувачів віком від 13 до 17 років. Компанія заявляла, що вона має додаткові обмеження, батьківський контроль і механізми для зменшення ризику контакту з небезпечним або неприйнятним для віку контентом.
Однак дослідження некомерційної організації Common Sense Media показало, що частина цих запобіжників може працювати неналежним чином. Автори звіту закликали OpenAI обмежити доступ підлітків до ChatGPT, доки компанія не усуне виявлені ризики.
Під час тестування чатбот відмовлявся від сексуальних рольових сценаріїв із неповнолітніми, але, за даними дослідників, менш послідовно дотримувався інших обмежень. Зокрема, це стосувалося запитів про здоров’я та рольових сценаріїв із насильством.
Окреме занепокоєння у Common Sense Media викликала поведінка чатбота, який продовжував взаємодіяти з підлітком у ролі приятеля.
Дослідники вважають, що це може створювати ризик емоційної залежності від системи.
Найсерйознішою проблемою у звіті називають реакцію на розмови про самопошкодження та розлади харчової поведінки. За результатами тестів, ChatGPT не завжди радив звернутися до фахівця або на кризову гарячу лінію, а також не надсилав батькам передбачені сповіщення.
Дослідники заявили, що тестові акаунти могли протягом тривалого часу обговорювати суїцид, самопошкодження або розлади харчової поведінки без повідомлення для батьків. Вони перевіряли розмови тривалістю від п’яти хвилин до години й не отримали жодного такого сповіщення протягом цільового годинного періоду.
Звіт також ставить під сумнів ефективність режиму навчання Study Mode. OpenAI позиціонує його як інструмент, який має допомагати учням самостійно розв’язувати завдання, а не просто видавати готові відповіді.
Водночас дослідники зазначили, що режим можна легко обійти: команда @study, яка активує відповідний формат взаємодії, може бути видалена. Крім того, у режимі є опція «покажи мені відповідь», яка одразу видає готовий результат замість покрокового пояснення.
У Common Sense Media наголосили, що така можливість, на їхню думку, нівелює саму мету Study Mode. OpenAI зі свого боку заявляє, що батьки можуть самостійно активувати цей режим для пов’язаних із ними підліткових акаунтів.
Читайте також:
- ШІ-колапс. ChatGPT, Gemini та Claude одночасно дали збій — деталі
- Зброя конкурента. Модель Claude від Anthropic допомогла зламати системи OpenAI
- ШІ не знав, хто балотується. ChatGPT поширював неправдиву інформацію перед виборами 2024 року в США
