Коаліція американських некомерційних організацій закликала уряд США негайно призупинити використання чатбота Grok, розробленого компанією xAI Ілона Маска, у федеральних відомствах, зокрема в Міністерстві оборони.
Про це йдеться у відкритому листі, який отримало видання TechCrunch.
Причиною стали численні інциденти за останній рік. Найсвіжіший з них це масові запити користувачів соцмережі X до Grok із проханням перетворювати фото реальних жінок, а іноді й дітей, на сексуалізовані зображення без їхньої згоди. За окремими повідомленнями, система створювала тисячі таких відвертих картинок щогодини, після чого вони поширювалися у X, платформі, що належить xAI.
У листі, підписаному організаціями Public Citizen, Center for AI and Digital Policy та Consumer Federation of America, сказано: «Викликає серйозне занепокоєння, що федеральний уряд продовжує використовувати AI-продукт із системними збоями, які призводять до створення сексуальних зображень без згоди та матеріалів сексуального насильства над дітьми».
Автори також зазначають, що з огляду на чинні укази президента,
рекомендації та нещодавно ухвалений закон Take It Down Act, дивно, що Управління з питань менеджменту та бюджету США досі не дало вказівку вивести Grok з експлуатації.
У вересні минулого року xAI уклала угоду з Генеральною службою адміністрації США на продаж Grok федеральним установам. За два місяці до цього xAI разом з Anthropic, Google та OpenAI отримали контракт від Міноборони на суму до 200 мільйонів доларів.
У середині січня міністр оборони Піт Хегсет заявив, що Grok працюватиме всередині мережі Пентагону разом із Gemini від Google та оброблятиме як секретні, так і несекретні документи. Експерти вважають це ризиком для національної безпеки.
За словами авторів листа, Grok не відповідає вимогам адміністрації до ШІ-систем. Згідно з інструкціями Управління з питань менеджменту та бюджету, системи з серйозними та передбачуваними ризиками, які неможливо належно зменшити, мають бути припинені.
Представник Public Citizen Джей Бі Бранч заявив, що Grok «досить стабільно демонструє себе як небезпечна мовна модель». Він також нагадав про попередні інциденти, серед яких антисемітські та сексистські висловлювання,
а також створення сексуалізованих зображень жінок і дітей.
Після січневих скандалів доступ до Grok тимчасово блокували Індонезія, Малайзія та Філіппіни. Євросоюз, Велика Британія, Південна Корея та Індія нині розслідують діяльність xAI та X через питання захисту даних і поширення незаконного контенту.
Окремо організація Common Sense Media оприлюднила оцінку ризиків, у якій Grok назвали одним із найнебезпечніших сервісів для дітей і підлітків. У звіті йдеться про схильність чатбота давати небезпечні поради, поширювати інформацію про наркотики, генерувати сцени насильства та сексуальний контент, а також відтворювати теорії змови й упереджені відповіді.
Колишній підрядник Агентства національної безпеки США Ендрю Крістіансен зазначив, що використання закритих мовних моделей у Пентагоні є проблемою. За його словами, коли код і внутрішня логіка моделі недоступні для перевірки, неможливо зрозуміти, як саме вона ухвалює рішення і куди передає дані.
Він також наголосив, що такі ШІ-системи це не просто чатботи: вони можуть виконувати дії, отримувати доступ до інших систем і переміщати інформацію,
тому прозорість їхньої роботи є критично важливою.
Автори листа попереджають, що ризики виходять за межі сфери національної безпеки. Упереджені або дискримінаційні відповіді ШІ можуть негативно впливати на людей, особливо якщо такі системи застосовують у сферах житла, праці чи правосуддя.
TechCrunch з’ясував, що більшість федеральних агентств або не використовують Grok, або не розкривають таку інформацію. Окрім Міноборони, Міністерство охорони здоров’я та соціальних служб США, ймовірно, застосовує Grok для планування публікацій у соцмережах і створення чорнових версій документів.
Це вже третій подібний лист коаліції. У серпні xAI запустила «spicy mode» у Grok Imagine, що спричинило масове створення сексуальних дипфейків без згоди людей. Раніше Grok також звинувачували у поширенні дезінформації про вибори та запуску сервісу Grokipedia, який, за даними дослідників, легітимізував науковий расизм і вакцинні змови.
Окрім негайного припинення використання Grok у федеральних структурах, автори листа вимагають офіційного розслідування збоїв у безпеці та перевірки, чи відповідає чатбот указу президента про нейтральність і правдивість мовних моделей.
«Адміністрації потрібно зробити паузу й переоцінити, чи відповідає Grok цим вимогам», заявив Бранч.
Читайте також:
- Розвага за окрему плату. «Бунтарський» чат-бот от Маска Grok інтегрували в Twitter
- Grok провинився. Чатбот Ілона Маска «злив» у мережу сотні тисяч розмов із користувачами
- Чому Grok створює відвертий контент на платформі X і як реагує світ
