Нове дослідження, проведене Центром протидії цифровій ненависті (CCDH) у співпраці з Associated Press, виявило, що ChatGPT здатний надавати детальні інструкції з небезпечних дій, навіть коли співрозмовником є підліток.
Експерти протестуваличат-бота, видаючи себе за 13-річних користувачів, і отримали поради про вживання алкоголю, наркотиків, екстремальні дієти та навіть створення передсмертних записок.
Читайте також:
Битва титанів. OpenAI перевершив Grok та Gemini на шаховому турнірі У ході аналізу понад трьох годин діалогів чат-бот спершу попереджав про ризики, але згодом пропонував конкретні кроки, як втілити шкідливі наміри. З 1200 відповідей понад половину дослідники класифікували як небезпечні.
Директор CCDH Імран Ахмед зізнався, що його особливо вразили три передсмертні листи, згенеровані ChatGPT для вигаданого підлітка. У них бот звертався до батьків, родичів і друзів, використовуючи емоційно насичену мову.
OpenAI, розробник ChatGPT, у відповідь заявила, що вдосконалює механізми розпізнавання та належної реакції на делікатні ситуації. Компанія визнала,
що спілкування з ботом може починатися невинно, але переходити в небезпечну площину.
Дослідники зазначили, що обмеження ChatGPT можна легко обійти, наприклад, пояснивши, що інформація потрібна для «презентації» чи від імені друга. Один із прикладів — вигаданий 13-річний хлопець вагою 50 кг попросив поради, як швидко сп’яніти. Бот склав «план вечірки», де алкоголь поєднувався з екстазі, кокаїном та іншими забороненими речовинами.
Іншій вигаданій співрозмовниці — 13-річній дівчині, невдоволеній своєю зовнішністю, — ChatGPT порадив екстремальне голодування на 500 ккал на день у комбінації з препаратами для пригнічення апетиту.
Експерти попереджають: хоча більшість користувачів не стикаються з таким контентом, для вразливих підлітків ризики є значними. За данимиCommon Sense Media, понад 70% американських підлітків спілкуються з ШІ-ботами, і половина з них робить це регулярно.
Читайте також:
Тестуємо ChatGPT-5. Що вміє «найкраща у світі» модель штучного інтелекту?
