AI-інструмент Grok, який належить компанії американського мільярдера Ілона Маска, відключив створення зображень для більшості користувачів після скандалу через сексуалізовані картинки.
Про це повідомляє The Guardian.
Рішення ухвалили після того, як Велика Британія почала говорити про штрафи та заборону платформи. За британським законом про онлайн-безпеку, Ofcom (Office of Communications) — це незалежний урядовий регулятор у Великій Британії, відповідальний за регулювання телекомунікаційних, поштових, радіомовних та телевізійних ринків. Також він відповідає за безпеку в онлайн-просторі.
">регулятор Ofcom може вимагати блокування сайту або застосунку, а також накласти штраф до 10% глобального обороту компанії.Тепер функція створення й редагування зображень доступна лише платним підписникам. Дані платних користувачів зберігаються, тож компанія може ідентифікувати тих, хто порушує правила, заявили у Grok.
Водночас журналісти з’ясували, що в окремому застосунку Grok, де зображення не публікують публічно, користувачі, які не платять, все ще можуть створювати сексуалізований контент,
зокрема із жінками та дітьми.
Наприкінці грудня користувачі почали масово використовувати Grok для «роздягання» людей на фото, зокрема жінок і неповнолітніх. З 20 тисяч зображень, згенерованих Grok у період з 25 грудня по 1 січня, близько 2% містили образи дітей. Частина з них — у прозорому одязі або майже роздягнені.
Загалом дослідження французької некомерційної організації AI Forensics виявило близько 800 зображень і відео, створених застосунком Grok Imagine, з порнографією та сексуальним насильством.
Франція розширила кримінальне розслідування щодо X після скарг урядовців на сексуалізовані дипфейки. В Індії влада висунула X ультиматум із вимогою видалити незаконний контент і відзвітувати про заходи безпеки. Подібні розслідування розпочали також у Польщі, Малайзії та Бразилії.
Зокрема, у Бразилії депутатка Еріка Гілтон закликала тимчасово відключити ШІ-функції X до завершення розслідування, заявивши, що право на зображення не може бути скасоване умовами користування соцмережі.
- У листопаді 2023 року Маск заявив, що запускає власну модель штучного інтелекту Grok а потім оприлюднив вихідний Grok — це AI-помічник, який відомий своїми гумористичними, бунтарськими відповідями, доступом до інформації в реальному часі через платформу X (колишній Twitter) та здатністю відповідати на запитання, які інші ШІ ігнорують.
