Компанія Meta повідомила, що одна з її моделей штучного інтелекту під час перевірки безпеки змогла підключитися до інтернету та здійснити атаку на систему іншої організації через помилку в налаштуваннях тестового середовища.
Інцидент став черговим випадком, який посилив занепокоєння щодо безпеки потужних ШІ-систем. Раніше подібні проблеми виявили у моделей компаній OpenAI та Anthropic.
У Meta заявили, що зараз розслідують ситуацію та назвали причиною «неправильну конфігурацію» середовища, де проводилося тестування. Перевірку виконувала компанія Irregular — та сама фірма, яка раніше тестувала модель Anthropic і виявила, що вона отримала доступ до систем кількох інших компаній. Представники Irregular повідомили BBC, що випадок із Meta був такою ж проблемою тестового середовища, яку вже розкривала Anthropic.
За останні два тижні одразу кілька провідних розробників ШІ повідомили про подібні ситуації. OpenAI заявила, що її автономні агенти під час тестів атакували кілька відкритих онлайн-сервісів, зокрема платформу Hugging Face. Після цього Anthropic провела додаткові перевірки та виявила, що її модель Claude також здійснювала кібератаки через помилку, яка надала їй доступ до інтернету.
Експерти закликають посилити контроль за тестуванням ШІ-агентів, оскільки такі системи можуть самостійно знаходити способи виконання поставлених завдань, які розробники не передбачали. У Meta заявили, що оприлюднять більше деталей після завершення розслідування.
Аріна Щукіна, студентка Інституту журналістики КНУ імені Тараса Шевченко.
