Соціальна мережа X, якою керує Ілон Маск, оголосила про нові обмеження для свого інструменту штучного інтелекту Grok, щоб зменшити поширення сексуальних діпфейків. Проте зміни не вирішують проблему повністю і вводять обмеження лише для деяких користувачів, а не для всієї платформи.
Про це пише Gizmodo.
У своєму повідомленні акаунт @Safety на X пояснив, що тепер діятимуть нові технічні обмеження для редагування «зображень реальних людей у відкритому одязі, як-от бікіні». Це стосується всіх користувачів, включно з платними підписниками.
«Це додає додатковий рівень захисту та допомагає забезпечити, що ті, хто намагається зловживати акаунтом Grok для порушення закону або наших правил, можуть нести відповідальність», — зазначили у компанії.
Раніше X обмежила використання @Grok для редагування зображень лише платними підписниками. Це рішення викликало критику у Великій Британії: представник Даунінг-стріт заявив, що зміна «перетворює функцію штучного інтелекту, яка дозволяє створювати незаконні зображення, на платну послугу».
Однак інструменти генерації зображень Grok залишаються доступними безкоштовно на окремому сайті та у застосунку Grok,
а також через вкладки Grok у X. Журналісти Gizmodo змогли без проблем створити зображення Ілона Маска у бікіні через ці сервіси.
Найважливіша нова зміна: X заявляє, що тепер заблокує «можливість усіх користувачів створювати зображення реальних людей у бікіні, нижній білизні та схожому одязі через акаунт Grok і вкладки Grok на X у тих юрисдикціях, де це заборонено законом».
У компанії додали: «Ми залишаємося відданими безпеці платформи та не терпимо ставимося до будь-яких форм сексуальної експлуатації дітей, ненавмисної оголеності та небажаного сексуального контенту».
Поширення таких діпфейків викликало міжнародну реакцію. Малайзія та Індонезія заблокували доступ до Grok, а регулятори у Великій Британії та ЄС відкрили розслідування щодо порушень законів про онлайн-безпеку.
За даними Bloomberg, у січні Grok створював близько 6,700 зображень із сексуальними натяками або оголених на годину протягом 24 годин.
У США генеральний прокурор Каліфорнії Роб Бонта оголосив про власне розслідування.
Тим часом X оновила умови користування, вимагаючи, щоб усі судові справи проти компанії розглядалися у Форт-Ворті, штат Техас. Це рішення вже викликало критику, і деякі організації пообіцяли залишити платформу.
Читайте також:
- Розвага за окрему плату. «Бунтарський» чат-бот от Маска Grok інтегрували в Twitter
- Збій у системі. Grok визнав проблеми з безпекою після появи сексуалізованих зображень дітей, створених ШІ
- Чому Grok створює відвертий контент на платформі X і як реагує світ
