Grok Imagine — новий інструмент генерації зображень і відео на основі штучного інтелекту від компанії xAI Ілона Маска — не має належних засобів захисту від створення сексуального контенту та діпфейків.
Інструмент презентували нещодавно і вже доступний у мобільному додатку Grok для підписників xAI Premium Plus та Heavy Grok. Порівняння з аналогічними інструментами OpenAI, Google та Midjourney показало, що Grok Imagine відстає за технічними можливостями й не застосовує галузеві стандарти захисту від небажаного контенту.
У політиці прийнятного використання xAI заборонено «зображувати людей в порнографічному вигляді». Проте між поняттями «сексуальний» та «порнографічний» існує значний розрив, і Grok Imagine використовує цю «сіру зону». Інструмент створює сексуально провокативні зображення та відео, але уникає явної оголеності, поцілунків або сексуальних актів.
Більшість провідних компаній зі штучного інтелекту мають чіткі правила, які забороняють створення потенційно шкідливого контенту, зокрема сексуального матеріалу та дипфейків із зображенням відомих осіб. Наприклад,
конкуренти, як Google Veo 3 або OpenAI Sora, оснащені захистом, що блокує створення подібного контенту. Хоча користувачі іноді можуть обійти ці обмеження, вони все ж виконують роль стримуючого фактора.
Читайте також:
Цікава співпраця. ШІ Grok Ілона Маска інтегрують у Telegram Павла Дурова Проте xAI не уникає NSFW-контенту у своєму чатботі Grok. Компанія нещодавно додала анімований аватар для флірту в NSFW-чатах, а інструменти створення зображень дозволяють створювати образи відомих політиків і знаменитостей. Grok Imagine також має «Spicy» режим, який Ілон Маск активно рекламував після запуску.
Експерт із дипфейків Генрі Айдер зазначає:
«Ілон Маск — прихильник лібертріанства і свободи слова. X (Twitter), xAI та Grok під його керівництвом обрали більш ліберальний підхід до безпеки та модерації».
Він також додав, що Grok Imagine демонструє більш поступове ставлення до контролю за контентом, ніж конкуренти.
Читайте також:
Зачепило за живе? У чат-бота Ілона Маска з’явилася улюблена тема для розмов — вибір відверто дивує Grok Imagine має деякі засоби контролю: наприклад,
він видаляє «Spicy» режим для певних типів зображень, а деякі матеріали розмиває і позначає як «Модеровані». Але, за словами експертів, xAI міг би впровадити більш жорсткі обмеження і на вхідних, і на вихідних етапах роботи системи.
Google й OpenAI мають докладні політики, які чітко забороняють сексуально явний контент і діпфейки. Зокрема, OpenAI блокує створення матеріалів, пов’язаних із дитячою сексуальною експлуатацією та сексуальними діпфейками. Google не дозволяє генерувати контент, що містить посилання на сексуальні акти або інший непристойний матеріал.
На відміну від цього, політика використання xAI дуже коротка — менш як 350 слів — і перекладає відповідальність за запобігання діпфейкам на користувачів. Вона закликає «бути хорошими людьми, діяти відповідально і дотримуватись закону».
Законодавство щодо штучного інтелекту і діпфейків досі перебуває у стадії розвитку. У США нещодавно ухвалено закон Take It Down Act, який зобов’язує соціальні мережі видаляти інтимні зображення, на публікацію яких не дали згоду. Проте цей закон не забороняє створення діпфейків, а лише їх розповсюдження.
Читайте також:
Пішов кожен десятий. Соцмережа Ілона Маска втратила мільйони користувачів з ЄС менш як за рік
