Про це пише Bloomberg.
За даними незалежного аналізу, обліковий запис Grok на X створював близько 6700 зображень на годину, які містили сексуальний підтекст або оголені тіла. Інші п’ять провідних сайтів з діпфейками публікували в середньому 79 таких зображень на годину.
Дослідники соцмереж і дипфейків підрахували, що 85% усіх зображень Grok мають сексуалізований характер.
З кінця грудня у соцмережі X можна було натрапити на дописи, де користувачі просять Grok згенерувати сексуалізовані зображення із фото інших користувачів. Жертвами цього тренду стали в основному молоді жінки. За допомогою штучного інтелекту звичайні фото жінок робили «одягненими» у бікіні або надавали їм принизливого виразу обличчя.
Масштаби діпфейків на X «безпрецедентні», оскільки Grok безплатний і не має обмежень на створення такого контенту, сказала юристка, що спеціалізується на сексуальних злочинах в Інтернеті, Керрі Голдберг.
Жертви діпфейків почали сперечатися з Grok у коментарях до своїх постів. Grok часто просить вибачення та каже, що видалить зображення. Але в багатьох випадках зображення залишаються активними,
а Grok продовжує створювати нові.
Влада Європейського Союзу Великої Британії, Малайзії , Франції та Індії розкритикували Grok за публікацію зображень сексуального характеру, зокрема неповнолітніх, без згоди.
«Нам відомо, що X або Grok тепер пропонує “пікантний режим” [в оригіналі Spicy Mode], який показує відвертий сексуальний контент з деякими зображеннями дитячого характеру. Це не пікантно. Це незаконно», — заявив речник Європейської комісії Томас Реньє.
Компанія X не відповіла на запит щодо коментарів. Водночас ще раніше Ілон Маск заявляв, що відповідальність мають нести користувачі, які підказують системі створювати незаконний контент. В одній із відповідей у X він написав, що будь-хто, хто використовує Grok для створення незаконних матеріалів, «матиме ті самі наслідки, що й у разі завантаження незаконного контенту».
В одній із відповідей з акаунта Grok такожзгенерував вибачення на прохання одного з користувачів, заявивши, що «шкодує».
xAI позиціює Grok як більш поблажливий ШІ, ніж інші основні моделі, і минулого літа представив функцію під назвою Spicy Mode, яка дозволяє часткову оголеність дорослих та контент сексуального підтексту. Утім сервіс забороняє порнографію, що містить зображення реальних людей, та контент сексуального характеру за участю неповнолітніх, створення або розповсюдження якого є незаконним.
читайте також:
- ChatGPT дає небезпечні поради людям із психічними проблемами — дослідження
