Чат-бот Grok, розроблений компанією Ілона Маска xAI, оголосив про впровадження нових технологічних обмежень для боротьби з сексуалізованими дипфейками.
Відтепер користувачі платформи X позбавлені можливості створювати або редагувати зображення реальних людей у відвертому одязі, зокрема в бікіні чи спідній білизні. Це правило поширюється на всіх без винятку клієнтів сервісу, включаючи власників платних підписок.
Читайте також:
Проблеми з Grok. Сенат США дозволив жертвам дипфейків подавати до суду Офіційна заяваслужби безпеки X Safety з’явилася в середу, близько 18:00 за східним часом (01:00 за київським часом). Компанія наголосила, що вживає рішучих заходів для запобігання поширенню контенту із зображенням сексуалізованого насильства над дітьми (CSAM) та оголених фото, створених без згоди осіб. Такі зміни відбулися на тлі серйозного правового тиску: прокуратура Каліфорнії розпочала розслідування, а Велика Британія пригрозила платформі повною забороною.
Ситуація загострилася після того, як генеральний прокурор Каліфорнії Роб Бонта зажадав від розробників xAI негайно припинити використання ШІ для переслідування жінок та дітей в інтернеті.
На міжнародній арені реакція була ще жорсткішою: прем'єр-міністр Британії Кір Стармер заявив, що держава візьме Grok під свій контроль, якщо компанія не зможе впоратися з модерацією самостійно. У деяких країнах, зокрема в Індонезії та Малайзії, доступ до чат-бота вже заблоковано.
Політичний тиск посилюється і в США, де сенатори закликали корпорацію Apple видалити додатки X та Grok зі свого магазину застосунків. Експерти зазначають, що така поспішна зміна політики Маска може бути пов’язана з юридичними ризиками. Стаття 230 американського Закону про пристойність у сфері комунікацій захищає платформи від відповідальності за контент користувачів, проте цей захист може не поширюватися на зображення, згенеровані власними технологіями компанії.
Попри офіційні звіти про посилення безпеки, позиція самого Ілона Маска залишається неоднозначною. Того ж дня, коли було оголошено про нові обмеження, він публічно запропонував користувачам спробувати «зламати» систему модерації зображень Grok. Проте фахівці вважають, що під загрозою багатомільйонних позовів та блокувань у цілих юрисдикціях, компанії доведеться дотримуватися задекларованих обмежень заради виживання на ринку.
Читайте також:
Малайзія та Індонезія заблокували ШІ Ілона Маска через порно-діпфейки
