Європейський Союз почав офіційне розслідування щодо можливостей чатбота Grok від Ілона Маска створювати сексуальні дипфейки — фальшиві зображення людей у сексуальному контексті без їхньої згоди.
Про це пише видання Gizmodo.
Європейська Комісія, виконавчий орган ЄС, перевіряє компанію X, що належить Маску, у рамках Закону про цифрові послуги. Цей закон покликаний зменшувати шкідливий контент в інтернеті.
«Сексуальні дипфейки жінок і дітей — це насильницька та неприпустима форма приниження», — заявила віцепрезидентка Єврокомісії з технологічного суверенітету, безпеки та демократії Генна Вірккунен.
У грудні користувачі X почали використовувати функцію Grok для створення зображень жінок і дітей без одягу без їхньої згоди. Маск і його команда не відреагували на інцидент вчасно, а сам Маск навіть розмістив деякі з цих зображень на своєму особистому акаунті та висміював критику.
Через це інші країни також почали перевіряти платформу. Індонезія, Філіппіни та Малайзія тимчасово заборонили Grok, але Філіппіни та Малайзія відновили доступ після того, як компанія пообіцяла посилити безпеку.
Великобританія та штат Каліфорнія також почали розслідування, Австралія висловила занепокоєння, а Бразилія дала xAI 30 днів, щоб зупинити розповсюдження сексуальних дипфейків.
Компанія оголосила, що обмежить створення і редагування зображень у Grok лише для платних користувачів і заборонить запити на фото реальних людей у відкритому одязі, наприклад у купальниках. Проте тестування показало, що додаток Grok все ще реагує на запити щодо роздягнення людей на фото.
«За цим розслідуванням ми визначимо, чи виконала X свої законні зобов’язання, чи поставила права громадян ЄС — зокрема жінок і дітей — у другий план», — додала Вірккунен.
Паралельно Єврокомісія продовжує попереднє розслідування щодо систем рекомендацій X, які також базуються на Grok. Минулого місяця X оштрафували на близько 140 мільйонів доларів через непрозорість у перевірках акаунтів та рекламі.
Розповсюдження дипфейків без згоди людей — глобальна проблема. Практично всі популярні генератори дипфейків дозволяють створювати явні відео високої якості, іноді навіть зі сценаріями сексуального характеру. На Telegram також активно діють понад 1,4 млн акаунтів, пов’язаних з 39 ботами та каналами для створення дипфейків.
Читайте також:
- Простіше нікуди. Фахівці пояснили, як розпізнати дипфейк
- Боротьба з діпфейк-порно. Adobe забороняє використовувати свій ШІ для зображення наготи
- Мережу заполонило діпфейк-порно з Тейлор Свіфт. X та Meta намагаються боротися з цим, але марно
