Европейский Союз начал официальное расследование относительно возможностей чатбота Grok от Илона Маска создавать сексуальные дипфейки — фальшивые изображения людей в сексуальном контексте без их согласия.
Об этом пишет издание Gizmodo.
Европейская Комиссия, исполнительный орган ЕС, проверяет компанию X, принадлежащую Маску, в рамках Закона о цифровых услугах. Этот закон призван уменьшать вредный контент в интернете.
«Сексуальные дипфейки женщин и детей — это насильственная и недопустимая форма унижения», — заявила вице-президент Еврокомиссии по технологическому суверенитету, безопасности и демократии Генна Вирккунен.
В декабре пользователи X начали использовать функцию Grok для создания изображений женщин и детей без одежды без их согласия. Маск и его команда не отреагировали на инцидент вовремя, а сам Маск даже разместил некоторые из этих изображений на своем личном аккаунте и высмеивал критику.
Из-за этого другие страны также начали проверять платформу. Индонезия, Филиппины и Малайзия временно запретили Grok, но Филиппины и Малайзия возобновили доступ после того,
как компания пообещала усилить безопасность. Великобритания и штат Калифорния также начали расследование, Австралия выразила обеспокоенность, а Бразилия дала xAI 30 дней, чтобы остановить распространение сексуальных дипфейков.
Компания объявила, что ограничит создание и редактирование изображений в Grok только для платных пользователей и запретит запросы на фото реальных людей в открытой одежде, например в купальниках. Однако тестирование показало, что приложение Grok все еще реагирует на запросы по раздеванию людей на фото.
«По этому расследованию мы определим, выполнила ли X свои законные обязательства или поставила права граждан ЕС — в частности женщин и детей — на второй план», — добавила Вирккунен.
Параллельно Еврокомиссия продолжает предварительное расследование в отношении систем рекомендаций X, которые также базируются на Grok. В прошлом месяце X оштрафовали на около 140 миллионов долларов из-за непрозрачности в проверках аккаунтов и рекламе.
Распространение дипфейков без согласия людей — глобальная проблема. Практически все популярные генераторы дипфейков позволяют создавать явные видео высокого качества, иногда даже со сценариями сексуального характера. На Telegram также активно действуют более 1,4 млн аккаунтов, связанных с 39 ботами и каналами для создания дипфейков.
Читайте также:
- Проще некуда. Специалисты объяснили, как распознать дипфейк
- Борьба с дипфейк-порно. Adobe запрещает использовать свой ИИ для изображения наготы
- Сеть заполонило дипфейк-порно с Тейлор Свифт. X и Meta пытаются бороться с этим, но тщетно
