ЄК вимагає офіційні пояснення від компанії Маска щодо механізмів безпеки, які повинні запобігати створенню такого контенту
Європейська комісія та британський регулятор Ofcom відкрили розслідування у зв’язку з функцією штучного інтелекту Grok, створеного компанією xAI Ілона Маска, після того, як соцмережу Х наповнили згенеровані ШІ сексуалізовані діпфейки.
Джерело. Про це пише Politico.
Скандал почаdся після того, як Grok, чат-бот, який активно просувається на платформі Ілона Маска Х, створив і поширив сексуалізовані, в тому числі оголені, фейкові зображення жінок і дітей. Частина таких зображень стосувалася і відомих людей, що викликало суспільний резонанс.
Це спричинило серйозні занепокоєння щодо того, як алгоритми генерують чутливий контент без належних обмежень або фільтрів, особливо в умовах росту кількості deepfake-контенту в інтернеті, що використовується для маніпуляцій, дезінформації або навіть шантажу.
Голова Єврокомісії Урсула фон дер Ляєн заявила, що ЄС серйозно сприймає ризики, пов’язані зі штучним інтелектом, і зазначила, що інциденти з Grok не відповідають стандартам безпеки та етики,
встановленим європейським законодавством про ШІ.
Єврокомісія вимагає офіційні пояснення від компанії Маска xAI щодо механізмів безпеки, які повинні запобігати створенню такого контенту.
Це відбувається на тлі впровадження в Європі одного з найсуворіших у світі законодавчих режимів щодо ШІ – Digital Services Act та AI Act, які зобов’язують компанії ефективно контролювати небезпечний контент та ризики своїх моделей. ЄС уже попередив, що порушення цих правил може призвести до великих штрафів або навіть блокування сервісів на європейських ринках.
Паралельно з європейською реакцією британський регулятор Ofcom також оголосив про відкриття розслідування щодо шлюзів, через які Grok може розповсюджувати неприйнятний контент в британському інформаційному просторі. Це включає вивчення того, чи порушила xAI правила мовлення, публічної безпеки та цифрової відповідальності, які діють у Великій Британії.
Регулятор вимагає в xAI пояснень щодо процесів модерації, фільтрації та запобігання шкідливому контенту, зокрема того, що дозволяє Grok створювати діпфейки. Якщо виявиться,
що вимоги безпеки не виконано, Ofcom може застосувати юридичні заходи чи санкції проти платформи X або Grok конкретно.
Експерти з технологій та безпеки наголошують, що ризики від неконтрольованого ШІ – не гіпотетичні, а реальні.
«Grok продемонстрував, як ШІ може безконтрольно створювати чутливий контент, що становить загрозу приватності та гідності людей,» – зазначив один із британських фахівців з кібербезпеки.
Інші аналітики підкреслюють, що діпфейки можуть бути використані для маніпуляцій у політичних кампаніях чи дискредитаційних атаках, і тому необхідна строга регуляція технологій ШІ на державному рівні.
Скандал, включно з фінансовими штрафами або обмеженням доступу до ринків, може стати ключовим прецедентом для майбутнього регулювання ШІ, вказує видання.
Бекграунд. Раніше повідомлялося, що Франція і Малайзія взялися за розслідування ШІ-чатбота Grok Ілона Маска, оскільки він, як виявилося, дозволяє генерувати сексуалізовані зображення будь-якої людини, в тому числі дітей.
