Чат-бот Grok, разработанный компанией Илона Маска xAI, объявил о внедрении новых технологических ограничений для борьбы с сексуализированными дипфейками.
Отныне пользователи платформы X лишены возможности создавать или редактировать изображения реальных людей в откровенной одежде, в частности в бикини или нижнем белье. Это правило распространяется на всех без исключения клиентов сервиса, включая владельцев платных подписок.
Читайте также:
Проблемы с Grok. Сенат США разрешил жертвам дипфейков подавать в суд Официальное заявлениеслужбы безопасности X Safety появилось в среду, около 18:00 по восточному времени (01:00 по киевскому времени). Компания отметила, что принимает решительные меры для предотвращения распространения контента с изображением сексуализированного насилия над детьми (CSAM) и обнаженных фото, созданных без согласия лиц. Такие изменения произошли на фоне серьезного правового давления: прокуратура Калифорнии начала расследование, а Великобритания пригрозила платформе полным запретом.
Ситуация обострилась после того, как генеральный прокурор Калифорнии Роб Бонта потребовал от разработчиков xAI немедленно прекратить использование ИИ для преследования женщин и детей в интернете.
На международной арене реакция была еще жестче: премьер-министр Британии Кир Стармер заявил, что государство возьмет Grok под свой контроль, если компания не сможет справиться с модерацией самостоятельно. В некоторых странах, в частности в Индонезии и Малайзии, доступ к чат-боту уже заблокирован.
Политическое давление усиливается и в США, где сенаторы призвали корпорацию Apple удалить приложения X и Grok из своего магазина приложений. Эксперты отмечают, что такое поспешное изменение политики Маска может быть связано с юридическими рисками. Статья 230 американского Закона о приличиях в сфере коммуникаций защищает платформы от ответственности за контент пользователей, однако эта защита может не распространяться на изображения, сгенерированные собственными технологиями компании.
Несмотря на официальные отчеты об усилении безопасности, позиция самого Илона Маска остается неоднозначной. В тот же день, когда было объявлено о новых ограничениях, он публично предложил пользователям попробовать «взломать» систему модерации изображений Grok. Однако специалисты считают, что под угрозой многомиллионных исков и блокировок в целых юрисдикциях, компании придется придерживаться задекларированных ограничений ради выживания на рынке.
Читайте также:
Малайзия и Индонезия заблокировали ИИ Илона Маска из-за порно-дипфейков
