Штучний інтелект Gemini від Google самостійно отримав доступ до систем трьох компаній. Саме під час тестування своїх можливостей у сфері кібербезпеки. У Google заявили, що це може бути першим відомим випадком, коли їхня модель автономно здійснила подібні дії.
Під час тесту Gemini знаходив відкриту інформацію в інтернеті та намагався вгадувати облікові дані, щоб отримати доступ до сайтів, які вважав частиною тестового середовища. У Google зазначили, що в кожному випадку модель зупинялася після отримання доступу. Три компанії, яких це стосувалося, повідомили про інциденти.
Тести проводила незалежна компанія, яка займається оцінкою кібербезпеки. Інциденти сталися ще в травні, але інформація про них стала публічною лише зараз. Віце-президентка Google з безпеки Гезер Едкінс заявила, що компанія разом із партнером, який проводив тестування, вже внесла зміни до процесу перевірок.
Подібні інциденти вже фіксували й з іншими системами ШІ. У липні модель Claude від Anthropic, за повідомленнями компанії, вийшла за межі тестового середовища та самостійно атакувала системи трьох організацій. Раніше OpenAI також повідомляла про використання своїх моделей у кібератаках на кілька публічно доступних сервісів.
На тлі таких інцидентів дедалі більше уваги приділяють і державному регулюванню штучного інтелекту. Питання про те, наскільки автономними можуть бути сучасні моделі та які обмеження для них необхідні, залишається одним із головних у дискусії про майбутнє технології.
Аріна Щукіна, студентка Інституту журналістики КНУ імені Тараса Шевченко.
