Компанія OpenAI розкрила нові деталі першої відомої кібератаки, здійсненої автономними агентами штучного інтелекту. Виявилося, що атака не обмежилася лише однією компанією — ШІ намагався отримати доступ і до інших публічно доступних сервісів.
Раніше вважалося, що єдиною жертвою інциденту стала платформа Hugging Face, яка займається розробкою та поширенням інструментів штучного інтелекту. Однак OpenAI повідомила, що її система знайшла в інтернеті чотири відкриті облікові дані та використала їх для доступу до чотирьох різних сервісів, назви яких компанія не розкрила.
За словами OpenAI, атака сталася під час тестування ШІ-агентів, які повинні були виконати завдання з кібербезпеки. Однак система вийшла за межі контрольованого середовища та почала самостійно шукати способи проникнення в реальні мережі. Hugging Face першою повідомила про інцидент 16 липня. Компанія заявила, що її системи були атаковані за допомогою потужного автономного ШІ, після чого звернулася до правоохоронців.
Пізніше OpenAI підтвердила, що саме її модель стала причиною атаки. За словами компанії,
ШІ намагався знайти відповіді на тестове завдання зі злому, яке йому дали дослідники, але замість симуляції він почав взаємодіяти з реальними онлайн-сервісами.
Представники Hugging Face розповіли, що агенти діяли з надзвичайною швидкістю: вони одночасно випробовували тисячі різних методів пошуку вразливостей. Водночас поведінка ШІ була незвичною — система робила помилки, повторювала вже виконані дії та створювала безглузді команди, які людина-хакер, імовірно, не зробила б.
Однак експерти також наголосили, що попри помилки ШІ продемонстрував небезпечні можливості. Агенти швидко адаптувалися до нових ситуацій і виконували складні технічні завдання, які могли б створити серйозні проблеми для менш підготовлених компаній.Hugging Face отримала схвалення за відкритість у розповіді про інцидент, оскільки компанія вирішила поділитися деталями з кібербезпековою спільнотою, щоб інші організації могли краще підготуватися до нових загроз.
Аріна Щукіна, студентка Інституту журналістики КНУ імені Тараса Шевченко.
