Компанія xAI отримує понад половину трафіку чатбота Grok завдяки запитам, пов’язаним із контентом для дорослих. Йдеться про створення порнографії, еротичних текстів і рольових чатів.
Про це повідомляє The Information із посиланням на двох колишніх співробітників компанії.
За даними джерел, користувачі також знайшли спосіб дешевше створювати такий контент, використовуючи моделі Grok, призначені для написання коду. Внутрішній аналіз компанії показав, що значна частина запитів до цих моделей стосувалася «порнографії або оголених зображень».
У матеріалі зазначається, що роль NSFW-контенту в доходах xAI не була відображена в документах для IPO. Водночас SpaceX попередила потенційних інвесторів, що більш «зухвалі» функції Grok можуть становити ризик, і зарезервувала 530 мільйонів доларів на можливі судові витрати.
За інформацією видання, інженерам xAI довелося шукати спосіб дозволити еротичні чати з користувачами, одночасно блокуючи запити, пов’язані з матеріалами сексуального насильства над дітьми. Джерела стверджують, що «швидкого рішення» для цієї проблеми не було.
Деякі співробітники також були незадоволені роботою над NSFW-анімеаватаром Ani. Крім того, частина працівників, за даними The Information, почувалася «збентеженою і стривоженою» після скандалу, коли Grok створив сексуалізовані зображення реальних людей, зокрема дітей.
Попри те, що платформа X обмежила можливість створення відвертих змінених зображень реальних людей через Grok, платні передплатники xAI, як стверджується у звіті, досі можуть генерувати подібний контент. Водночас xAI продовжує укладати контракти з державними установами та військовими, хоча не повідомляється, чи вплинули попередні скандали на ці відносини.
Читайте також:
- Штрафів не уникнути. Правозахисники подали до суду на xAI через забруднення повітря від дата-центру
- Для навчання Grok. Ілон Маск пообіцяв працівникам xAI по 420 доларів за податкові дані, але гроші не виплатили
- Порушення закону. Британська депутатка подала до суду на xAI через відверті зображення, створені Grok
