Чатбот Grok, створений компанією xAI Ілона Маска, визнав збої у своїх системах безпеки після того, як користувачі почали генерувати на платформі X сексуалізовані зображення дітей за допомогою штучного інтелекту.
Про це пише видання Interesting Engineering.
У повідомленні на X Grok заявив, що виявив прогалини в захисних механізмах і терміново працює над їх усуненням. Чатбот наголосив, що матеріали сексуального насильства над дітьми є незаконними та забороненими.
У відповіді одному з користувачів Grok зазначив, що компанії можуть нести відповідальність, якщо свідомо допускають або не зупиняють поширення такого контенту після отримання скарг. Йдеться як про кримінальні, так і про цивільні наслідки.
За словами Grok, нещодавні випадки він вважає поодинокими. Чатбот пояснив, що користувачі надсилали запити на створення зображень із неповнолітніми в мінімальному одязі. При цьому в компанії заявили, що вже впроваджують додаткові обмеження, щоб повністю блокувати такі запити.
Попри це, користувачі X продовжували публікувати приклади відвертих зображень із дітьми, створених інструментом генерації зображень Grok.
Частина з них показувала неповнолітніх у мінімальному одязі.
Технічний співробітник xAI Парса Таджик публічно відреагував на скарги, подякувавши за сигнал і повідомивши, що команда працює над посиленням захисних обмежень. Офіційної розгорнутої відповіді xAI не надала, обмежившись автоматичною відповіддю на запит журналістів.
Цей інцидент став черговим у серії скандалів навколо Grok. Раніше чатбот критикували за небезпечні та образливі відповіді. У травні він поширював твердження про «геноцид білих» у Південній Африці, а згодом публікував антисемітський контент і позитивно згадував Адольфа Гітлера.
Попри це, компанія xAI продовжує розширювати використання Grok. Минулого місяця Міністерство оборони США додало чатбот до своєї платформи ШІ-агентів. Grok також використовується на прогнозних платформах Polymarket і Kalshi.
Експерти зазначають, що проблема виходить за межі одного сервісу. Після запуску ChatGPT у 2022 році різко зросла кількість платформ для генерації зображень, а компаніям стає дедалі складніше запобігати зловживанням. Технологія вже сприяла поширенню дипфейк-порнографії з реальними людьми,
і правозахисники з питань захисту дітей заявляють про загострення ситуації.
За даними британської організації Internet Watch Foundation, кількість матеріалів сексуального насильства над дітьми, створених за допомогою ШІ, у першій половині 2025 року зросла на 400%. Організація назвала темпи поширення «лякаючими» та повідомила, що слідчі вже фіксують перші переконливі відео, згенеровані ШІ, які імітують сексуальне насильство над дітьми.
На ситуацію відреагували й в Індії. Міністерство електроніки та інформаційних технологій звернулося з вимогою провести перевірку систем безпеки Grok. Чиновники заявили про нову тенденцію, коли користувачі завантажують фотографії жінок і просять чатбот «зменшити кількість одягу та сексуалізувати їх». У міністерстві назвали таку поведінку неприйнятною та грубим зловживанням можливостями штучного інтелекту.
На тлі посилення уваги з боку регуляторів ситуація з Grok підкреслює зростаючий тиск на компанії, які розробляють ШІ, щодо необхідності посилювати захисні механізми до того, як шкода набуде ще більших масштабів.
Читайте також:
- Схильний до тролінгу. Маск представив саркастичного чат-бота ШІ Grok
- Розвага за окрему плату. «Бунтарський» чат-бот от Маска Grok інтегрували в Twitter
- Grok провинився. Чатбот Ілона Маска «злив» у мережу сотні тисяч розмов із користувачами
