Депутат британского парламента от Лейбористской партии Джесс Асато подала иск против xAI из-за созданных искусственным интеллектом Grok откровенных изображений с ее участием.
По данным издания Financial Times, пользователи Grok начали создавать и распространять изображения Асато в январе. Она утверждает, что с помощью ИИ были сгенерированы ее изображения в бикини, а также откровенное видео, где показана подготовка к сексуальному насилию. После этого пользователи продолжили распространять, обсуждать и создавать новые изображения на платформе X, которая принадлежит xAI.
Дело может стать первым громким судебным тестом в Великобритании относительно ответственности компаний за контент, который пользователи генерируют с помощью их ИИ-инструментов.
В иске депутат заявляет, что компания нарушила законодательство о защите персональных данных и неправомерном использовании частной информации. По ее мнению, это может сделать xAI ответственной, хотя непосредственно контент создавали пользователи сервиса.
Асато требует финансовой компенсации и судебного решения, которое обяжет компанию соблюдать британское законодательство.
Она заявила, что надеется усилить защиту прав людей от крупных технологических компаний, которые, по ее мнению, должны были внедрить предохранители до того, как их инструменты нанесли вред женщинам и детям.
В январе xAI сообщила о введении ограничений на создание Grok откровенных изображений. Однако во время проверок эти ограничения оказались относительно простыми для обхода.
Возможность Grok создавать дипфейки без согласия людей уже привлекла внимание регуляторов. Сейчас деятельность xAI расследуют в Европейском Союзе, Великобритании и штате Калифорния. Кроме этого, против xAI или X подали иски власти города Юалтимор, группа подростков и Ashley St. Clair.
Все это происходит на фоне подготовки SpaceX, которая недавно стала владельцем xAI и X, к выходу на биржу. Авторы материала отмечают, что пока сложно оценить, повлияют ли судебные иски и расследования на эти планы, однако дальнейшие изменения в работе Grok, вероятно, будут зависеть от регуляторов или судебных решений.
