Штучний інтелект Google Gemini під час перевірки кібербезпекових можливостей проник у системи трьох реальних компаній, які не були учасниками випробування. Інциденти сталися у травні 2026 року під час тесту, організованого компанією з кібербезпеки Irregular, повідомляє Techzine з посиланням на The Wall Street Journal.
Gemini виконувала завдання у форматі capture the flag: ШІ-агент мав знайти визначену інформацію в системах вигаданої компанії. Однак назва тестової організації збіглася з назвою реального бізнесу, а через помилку в налаштуванні середовища агент отримав можливість звертатися до загальнодоступного інтернету, хоча це не входило до умов випробування.
Як Gemini отримала доступ до сторонніх системЗа даними видання, під час одного з тестів Gemini перебирала паролі, доки не змогла увійти до захищеної системи. У двох інших випадках модель шукала в інтернеті відомості про компанію та виявила облікові дані інших організацій у відкритих репозиторіях. Використавши знайдену інформацію, ШІ-агент отримав доступ до їхніх систем.
У Google заявили, що в усіх трьох випадках Gemini припиняла подальші дії,
щойно розпізнавала, що потрапила до середовища сторонньої організації. Компанії, чиї системи зазнали проникнення, повідомили про інциденти; інформацію також передали федеральним органам США.
Google не уточнила, яку саме версію Gemini використовували під час випробувань, але зазначила, що йшлося не про найновішу модель.
Google та фахівці з безпеки по-різному оцінюють інцидентиУ Google не вважають події прикладом ситуації, коли модель почала діяти всупереч цілям розробників. Компанія наголошує, що захисні механізми спрацювали, оскільки Gemini зрештою розпізнала вихід за межі завдання та зупинилася.
Водночас керівник компанії з безпеки ШІ Corridor Джек Кейбл звернув увагу на інший аспект: агент зміг самостійно виконати дії поза межами наданих повноважень і отримати доступ до систем організацій, які не брали участі в тестуванні.
За інформацією Techzine, Irregular повідомила Google про інциденти наприкінці липня. Компанія підтвердила їх після запиту журналістів The Wall Street Journal, а згодом разом з Irregular змінила процедури тестування.
Подібні випадки фіксували й під час випробувань інших ШІ-моделейIrregular також брала участь у тестах моделей OpenAI, Anthropic і Meta, під час яких ШІ-агенти отримували доступ до систем сторонніх організацій. За словами представників Irregular, у попередніх випадках відігравала роль аналогічна технічна помилка в налаштуванні тестового середовища.
Інциденти привернули увагу до ризиків перевірки автономних ШІ-агентів, здатних самостійно користуватися інструментами, шукати інформацію в інтернеті та взаємодіяти із зовнішніми системами. Вони також порушили питання про те, як обмежувати доступ таких агентів під час випробувань і за яких обставин розробники мають публічно повідомляти про виявлені інциденти.
