Попри запроваджену 15 січня заборону, соцмережа X, що належить Ілону Маску, не змогла повністю зупинити чат-бот Grok від створення сексуалізованих зображень людей. Формально Grok більше не має "роздягати" людей на фото, зокрема тих, хто зображений у купальниках або білизні, однак на практиці обмеження працюють не завжди — навіть коли користувачі прямо вказують на відсутність згоди.
На це звернули увагу журналісти Reuters, які провели власне тестування роботи чат-бота.
Після оголошення нових правил дев'ятеро журналістів поставили Grok серію запитів, аби з'ясувати, чи продовжує він генерувати сексуалізований контент і за яких умов. Хоча офіційний акаунт Grok у соцмережі X більше не публікує таких зображень, окремий застосунок Grok, що функціонує автономно від платформи, усе ще здатний їх створювати.
Експеримент провели у два етапи. Під час першого Grok згенерував сексуалізовані зображення у 45 випадках із 55. У 31 з цих випадків журналісти попереджали, що люди на фото належать до особливо вразливої категорії. Ще у 17 ситуаціях бот пішов на генерацію навіть після прямого застереження,
що створені зображення можуть бути використані для приниження людини.
У межах другого тесту Grok погодився виконати 29 із 43 подібних запитів. Водночас журналісти не змогли однозначно встановити, чи свідчить менший показник про зміну в роботі моделі, чи це лише статистична випадковість.
При цьому Grok не створював — і журналісти не намагалися отримати — повністю оголені зображення або сцени відвертого сексуального характеру, оскільки такий контент може порушувати законодавство США.
Для порівняння Reuters провели аналогічні тести з іншими чат-ботами — ChatGPT від OpenAI, Gemini від Alphabet та Llama від Meta. Усі ці системи відмовилися генерувати подібні зображення і зазвичай супроводжували відповіді попередженнями про неприпустимість створення сексуалізованого контенту без згоди зображених осіб.
Що відомо про скандал навколо чат-бота Grok, який "перевдягав" будь-кого у бікініНаприкінці грудня користувачі масово використовували Grok для "роздягання" людей на фото, у тому числі неповнолітніх. З 20 тисяч зображень, створених між 25 грудня та 1 січня, приблизно 2% містили дітей у прозорому або майже відвертому одязі.
Дослідження французької некомерційної організації AI Forensics зафіксувало близько 800 зображень і відео з порнографією та сексуальним насильством, створених у застосунку Grok Imagine.
Через це у Франції розширили кримінальне розслідування щодо X (колишній Twitter), а в Індії влада висунула ультиматум із вимогою видалити незаконний контент та повідомити про заходи безпеки. Подібні перевірки тривають у Польщі, Малайзії та Бразилії.
У Бразилії депутатка Еріка Гілтон закликала тимчасово відключити ШІ-функції X до завершення розслідування, зазначивши, що право на власне зображення не може бути обмежене правилами соцмережі.
Індонезія та Малайзія стали першими країнами, які обмежили доступдо чат-бота Grok від компанії xAI Ілона Маска через випадки створення ним сексуалізованих зображень на основі реальних фотографій.
Нагадаємо, у Великій Британії запроваджують заборонуна використання штучного інтелекту для генерації інтимних зображень із людьми, які не давали на це дозволу.
Врешті соцмережа X запровадила нові правила для свого чат-бота Grok після хвилі критики щодо створення сексуалізованих зображень та несанкціонованого "роздягання" людей. Так, штучний інтелект більше не зможе "роздягати" людей.
Французькі правоохоронні органи провели слідчі діїу французьких офісах соціальної мережі X. У межах цього ж провадження на допит викликали голову правління компанії Ілона Маска та колишню виконавчу директорку платформи Лінду Яккаріно.
