Компанію xAI Ілона Маска подали до суду в Каліфорнії через те, що її ШІ-модель Grok нібито створювала сексуалізовані зображення реальних неповнолітніх. Позивачі стверджують, що сервіс не мав базових обмежень, які використовують інші розробники.
Про це пише видання TechCrunch.
Троє анонімних позивачів вимагають визнати компанію відповідальною за те, що її моделі дозволяли створювати образливі сексуальні зображення впізнаваних дітей. Вони також хочуть подати колективний позов від імені всіх, чиї фото в дитячому віці були змінені Grok у такий спосіб.
За їхніми словами, xAI не впровадила базові запобіжники, які застосовують інші компанії, щоб не допустити створення порнографічного контенту із зображенням реальних людей і дітей.
Позов подали до федерального суду Північного округу Каліфорнії у справі «Jane Doe 1, Jane Doe 2 та Jane Doe 3 проти x.AI Corp. і x.AI LLC».
У документі зазначається, що інші генератори зображень використовують різні технічні методи, щоб запобігти створенню дитячої порнографії зі звичайних фото, але xAI нібито не дотрималась цих стандартів.
Також у позові наголошують:
якщо модель дозволяє створювати оголений або еротичний контент із реальних фото, майже неможливо запобігти появі подібного контенту з участю дітей. Окремо згадують публічні заяви Ілона Маска про можливості Grok створювати сексуалізовані зображення та змінювати зовнішність людей.
Одна з позивачок повідомила, що її фото зі шкільного альбому та випускного були змінені так, що вона виглядає оголеною. За її словами, невідомий написав їй в Instagram і повідомив, що ці зображення поширюються в інтернеті, зокрема на сервері Discord, де були також інші змінені фото її однокласників.
Інша позивачка дізналася про подібні зображення від слідчих, які виявили їх у сторонньому мобільному застосунку, що використовує моделі Grok. Третю також повідомили правоохоронці після того, як знайшли змінене порнографічне зображення на телефоні затриманої особи.
Адвокати позивачів стверджують, що навіть якщо сторонні сервіси використовують ці моделі, вони все одно працюють через код і сервери xAI, тому відповідальність має нести компанія.
Усі троє позивачів, двоє з яких ще неповнолітні, заявляють про сильний психологічний стрес через поширення цих зображень і можливі наслідки для їхньої репутації та соціального життя. Вони вимагають штрафів за законами, які захищають дітей від експлуатації та передбачають відповідальність за недбалість компаній.
Читайте також:
