Місто Балтимор у США подало позов проти компанії xAI через чатбот Grok, який, за даними правозахисників, використовували для створення сексуалізованих зображень, зокрема за участю дітей, що може порушувати місцеві закони про захист споживачів.
Про це пише видання Engadget.
Чатбот Grok уже опинився під критикою після того, як його інструмент генерації зображень використали для створення близько 3 мільйонів сексуалізованих картинок за 11 днів. Серед них — 23 тисячі із зображенням неповнолітніх, повідомив Центр протидії цифровій ненависті.
У різних країнах регулятори обмежили доступ до платформи або розпочали розслідування щодо можливого створення незаконного та неузгодженого контенту. Водночас на федеральному рівні у США проти xAI поки не вживали заходів, але влада Балтимора вирішила подати позов на місцевому рівні.
У позові зазначено, що компанія просувала Grok як універсального ШІ-помічника, не попереджаючи про ризики його використання та можливу шкоду як від самого сервісу, так і від соцмережі X.
Юристка міста Ебоні Томпсон заявила, що закони про захист споживачів існують саме для таких випадків. За її словами, коли компанії запускають потужні технології без достатніх обмежень, місто має право і обов’язок діяти, щоб захистити мешканців і притягнути бізнес до відповідальності.
Раніше у США також подали колективний позов троє підлітків, які стверджують, що їхні фото використали для створення матеріалів сексуального насильства над дітьми.
Читайте також:
- Незаконний контент. ЄС розпочав друге розслідування проти Grok через створення сексуалізованих зображень без згоди
- Заміна гравців. Пентагон допускає Grok Ілона Маска до секретних мереж і може відмовитися від Anthropic
- Мінімальний захист. X запровадив нову опцію проти зміни зображень Grok, але вона працює обмежено
