Grok під слідством: як чат-бот X опинився в центрі кримінального розслідування

Паризька прокуратура проводить обшуки у французьких офісах соціальної мережі X що належить Ілону Маску. Слідчі дії відбуваються в межах кримінального розслідування щодо алгоритмічної упередженості платформи, можливого іноземного втручання та поширення незаконного контенту

Про це повідомилаПаризька прокуратура, передає «Комерсант Український»

Обшуки здійснює спеціалізований підрозділ з боротьби з кіберзлочинністю за участі Європолу та французької поліції.

У чому суть розслідуванняСправу було відкрито у січні після звернення французького депутата від партії «Відродження» Еріка Ботореля. Він заявив про можливу маніпуляцію алгоритмами X та непрозоре управління платформою після її придбання Ілоном Маском у 2022 році.

Окрему скаргу подав і директор з кібербезпеки державної служби Франції який стверджує, що зміни в алгоритмах сприяли активнішому поширенню політично чутливого контенту.

Хто фігурує у справіУ межах розслідування на 20 квітня заплановано слухання, на яке викликали:

• Ілона Маска власника X;
• Лінду Яккаріно колишню генеральну директорку платформи.

Іноземне втручання та алгоритмиПрокуратура не уточнює їхній процесуальний статус,

однак підтверджує, що вони фігурують у справі як особи, причетні до ухвалення управлінських рішень.

За даними слідства, двоє заявників підозрюють, що алгоритми X могли використовуватися для впливу іноземних держав на публічний дискурс.

Згодом розслідування розширили після надходження нових повідомлень про діяльність чат-бота Grok інтегрованого в X і створеного компанією xAI.

Grok і незаконний контентПрокуратура перевіряє інформацію про:

• заперечення Голокосту
• генерацію сексуальних діпфейків зокрема з використанням зображень жінок і дівчаток без їхньої згоди;
• створення сцен сексуального насильства.

Ще у листопаді прокуратура заявляла про перевірку Grok після того, як чат-бот згенерував франкомовні дописи, у яких ставилося під сумнів використання газових камер в Освенцимі

Реакція X і МаскаПісля публікацій у медіа Ілон Маск заявив, що користувачі, які створюють незаконний контент, нестимуть відповідальність нарівні з тими, хто його поширює. Він також пообіцяв внутрішню перевірку xAI

Компанія X визнала недоліки в системах захисту та перепросила.

Згодом:

• Grok тимчасово вимкнув генерацію зображень для більшості користувачів;
• X заборонила створення або редагування зображень людей у купальниках, білизні та подібному одязі.

Ситуація навколо X розгортається на тлі посилення регулювання цифрових платформ у світі. Зокрема, Південна Корея першою запровадила повноцінну правову базу для регулювання штучного інтелекту а ЄС уже веде окремі розслідування щодо відповідності ШІ-систем законодавству Союзу.