OpenAI заявила, що заблокувала низку акаунтів ChatGPT, пов’язаних із державними та кіберзлочинними угрупованнями з росії, Китаю, Ірану та інших країн, які використовували ШІ для написання шкідливого коду, автоматизації фейкових кампаній та кіберрозвідки.
Про це йдеться у звіті компанії, оприлюдненому 3 червня. Один із прикладів — російськомовна група, яка створювала шкідливе ПЗ для Windows за допомогою ChatGPT, покращувала код, маскувалася під легальне ПЗ Crosshair X і заражала комп’ютери, щоб красти облікові дані, cookies та токени з браузерів. Вкрадену інформацію надсилали у Telegram.
Використовуючи мережу тимчасових акаунтів, зловмисники запускали один діалог на кожному акаунті для поступового вдосконалення свого коду, що свідчить про серйозний рівень OPSEC (оперативної безпеки). Серед інструментів — Go, PowerShell, ShellExecuteW, DLL side-loading, Base64-обфускація та SOCKS5-проксі для приховування IP.
OpenAI також виявила активність двох китайських APT-груп: APT5 і APT15. Вони використовували ChatGPT для ресерчу супутникових технологій, створення скриптів,
адміністрування Linux, розробки Android-додатків і написання ботів для соцмереж — наприклад, автоматизованого лайкання постів у TikTok, X (Twitter), Instagram.
Ще один кейс — іранська операція Storm-2035, яка використовувала ChatGPT для створення коментарів англійською та іспанською мовами з політичними меседжами на підтримку Палестини, Шотландії та Ірландії. А китайська кампанія Sneer Review генерувала пости на Facebook і Reddit про міжнародну політику англійською, китайською та урду.
Усього OpenAI зафіксувала 9 груп зловмисників із різних країн, які зловживали її моделями. Вони створювали фейковий контент, автоматизували атаки на соцмережі та навіть допомагали шахрайським схемам найму з «вступними внесками».
ChatGPT та інші великі мовні моделі можуть бути використані як з доброчесною метою, так і в кіберзлочинності. Саме тому OpenAI посилює моніторинг активності користувачів. Компанія також заявила, що співпрацює з партнерами для виявлення і блокування шкідливих кампаній. У цьому випадку йдеться не лише про хакерські атаки, а й про маніпулятивні інформаційні операції на геополітичні теми.
Нещодавно ми також писали про нову модель ChatGPT-5, яку OpenAI може анонсувати вже в липні. Очікується, що вона стане найфункціональнішим штучним інтелектом компанії — з підтримкою відео, тривалої пам’яті та уніфікованим інтерфейсом для роботи з текстом, кодом і зображеннями.
