Компанія Anthropic визнала, що її агентний ШІ Claude був використаний у масштабних кібератаках.
Про це компанія повідомила у звіті про кіберзагрози.
- Зокрема, йдеться про так звану схему vibe hacking, яка стала основою для шантажу щонайменше 17 організацій, серед яких — медичні установи, служби надзвичайних ситуацій і державні структури.
- За даними компанії, зловмисники вимагали шестизначні суми викупу, погрожуючи оприлюднити персональні дані постраждалих. Для цього вони активно застосовували Claude Code — інструмент для генерації коду.
- ШІ автоматизував розвідку, збирав облікові дані жертв, проникав у мережі, допомагав ухвалювати стратегічні рішення та навіть генерував «візуально тривожні» повідомлення з вимогою викупу.
У звіті також описано ще два інциденти: шахрайську «схему працевлаштування» в Північній Кореї та створення нових зразків AI-генерованого програмного забезпечення для вимагання грошей.
Раніше виявилось, що xAI випадково опублікувала чати користувачів чатбота Grok. Серед них були як безпечні завдання на кшталт створення твіту чи резюме, так і небезпечні інструкції щодо виробництва наркотиків, зброї чи навіть план замаху на самого Ілона Маска.
Читайте також: Великий раунд фінансування: Anthropic близький до угоди на $10 млрд, аби обігнати OpenAI та xAI
