Про це повідомив Reuters.
Обмеженню передували скарги користувачів на створення сексуалізованого контенту — зокрема, редагування фото жінок і дітей для отримання їхніх знімків у напівоголеному вигляді. Штучний інтелект дозволяв користувачам «зняти одяг» з людей, зображених на фото.
Зокрема, світлини оголених дівчат віком від 11 до 13 років виявила в інтернеті організація Internet Watch Foundation (IWF), — повідомляли в BBC. При цьому користувачі форуму писали, що фото зроблені за допомогою Grok.
Зміни в поведінці програми помітили журналісти Reuters, коли намагались за допомогою Grok перетворити власні фото на фото, де вони зображені в бікіні. Утім, зробити це їм не вдалося. Як повідомляє Reuters, бот відповів, що ця функція доступна лише для передплатників X. Без підписки це також можливо робити в застосунку Grok, що працює окремо від соцмережі.
Реакція на створення забороненого контенту в XНа використання штучного інтелекту для створення сексуалізованих світлин звернула увагу Європейська комісія. Її представники — за даними Reuters — назвали потік напівоголених фото незаконними,
а міністр з питань ЗМІ Німеччини Вольфрам Ваймер — «індустріалізацією сексуальних домагань».
«Це незаконно. Це жахливо. Це огидно. Це те, як ми це бачимо, і цьому немає місця в Європі» — сказав речник Європейської комісії Томас Реньє журналістам.
Функціонал X викликав тривогу і в британського регулятора телекомунікацій Ofcom, а також у французьких та індійських посадовців.
3 січня Ілон Маск прокоментував створення зображень за допомогою ШІ:
«Будь-хто, хто використовує Grok для створення нелегального контенту, стикатиметься з тими ж наслідками, що й під час завантаження нелегального контенту» — написав власник соцмережі.
На зловживання скаржилися і користувачі X. Після полеміки з Grok чат-бот визнав порушення та навіть порадив, до яких органів варто звернутися. Після скарг частина розкритикованих дописів стала обмеженою у дописі, а акаунти деяких користувачів X були видалені.
читайте також:
- Шабунін заявив, ніби в Офісі генпрокурора відмовилися порушувати справу про «злив» його інтимних фото. Там заперечують
