Малайзія та Індонезія обмежили доступ до чатбота Grok Ілона Маска через побоювання щодо використання інструмента для генерування сексуального контенту.
11 січня малайзійський регулятор розпорядився запровадити тимчасові обмеження після «неодноразових провалів X Corp» в усуненні ризиків, пов’язаних із сервісом ШІ.
За день до того Індонезія призупинила доступ до чатбота через аналогічні побоювання та викликала представників компанії для обговорення питання.
Жорстка реакція країн Південно-Східної Азії послідувала за повідомленнями про те, що Grok дозволяє створювати матеріали за участю неповнолітніх і генерувати порнографічні зображення.
У X заявили, що компанія усуває проблему. Як тимчасовий захід функцію генерування та редагування зображень залишили доступною лише для платних підписників.
Компанія Маска нещодавно оновила можливості Grok Imagine, спростивши створення зображень за допомогою промптів у чатботі. Підприємець своєю чергою пригрозив відповідальністю тим, хто використовує нейромережу в незаконних цілях.
Будь-хто, хто використовує Grok для створення незаконного контенту,
зазнає тих самих наслідків, як і у випадку завантаження незаконного контенту
— Elon Musk (@elonmusk) January 3, 2026
Цих заходів недостатньоРегулятори Малайзії та Індонезії залишилися незадоволені вжитими кроками.
Малайзійська комісія з комунікацій і мультимедіа заявила, що дії «не враховують ризики, пов’язані з дизайном і функціонуванням інструмента ШІ».
«Обмеження вводиться як превентивний і співмірний захід на час проведення юридичних і нормативних процедур. Доступ до Grok залишатиметься обмеженим доти, доки не з’являться дієві запобіжники, зокрема для недопущення появи контенту, пов’язаного з жінками та дітьми», — заявив регулятор.
У Малайзії та Індонезії діють суворі закони проти порнографії, які забороняють широке розповсюдження такого контенту в інтернеті.
Міністр зв’язку і цифрових технологій Індонезії Мейтія Хафід заявила, що уряд розглядає створені без згоди сексуальні дипфейки як серйозне порушення прав людини, гідності та безпеки громадян у цифровому просторі.
Вона класифікує використання ШІ для створення фейкової порнографії як форму «цифрового насильства».
Масштабні наслідкиРегулятори ЄС, Великої Британії, Бразилії та Індії вимагають розслідувати роль Grok у поширенні дипфейків.
Британська організація Internet Watch Foundation зазначила, що її аналітики виявили «кримінальні зображення» дітей віком від 11 до 13 років, які, ймовірно, створені за допомогою Grok.
У Лондоні допустили крайні заходи: міністерка технологій Ліз Кендалл підтвердила, що підтримає рішення про блокування X, якщо платформа не дотримуватиметься норм безпеки. Американські законодавці також запропонували маркетплейсам видалити застосунок до усунення проблеми.
Влада різних країн у терміновому порядку вирішує, як регулювати ШІ, який використовують для «роздягання» людей на фото.
Не перший скандалРаніше Grok неодноразово критикували за поширення фейків і сумнівної інформації.
У грудні чатбот надавав недостовірну інформацію про масову стрілянину на пляжі Бонді в Австралії. У відповідь на запитання про відео, на якому випадковий перехожий Ахмед аль-Ахмед боровся зі стрільцем, ШІ відповів так:
«Схоже, це старий вірусний ролик, на якому чоловік видирається на пальму на парковці,
можливо, щоб підстригти її. У результаті гілка впала на пошкоджений автомобіль. Пошук за різними джерелами не дав підтверджених відомостей про місце, дату та травми. Можливо, це інсценування, автентичність не підтверджена».
У липні користувачі помітили, що нейромережа спирається на думку Ілона Маска під час формування відповідей. Це стосувалося зокрема теми конфлікту між Ізраїлем і Палестиною, абортів та імміграційного законодавства.
Спостереження дають підстави припускати, що чатбота навмисно налаштували враховувати політичні погляди Маска у відповідях на спірні питання.
Раніше мільярдер заявив, що його стартап перепише «всі людські знання» для навчання нової версії Grok, оскільки нині «занадто багато сміття в будь-якій базовій моделі, навченою на некоригованих даних».
Згодом з’явилася Grokipedia — заснована на базі штучного інтелекту онлайн-енциклопедія, «орієнтована на правду».
Нагадаємо, у листопаді користувачі звернули увагу на упередженість Grok 4.1 — нова модель істотно переоцінювала здібності Ілона Маска.
