Технології

Хакерські пригоди ШІ: Gemini зламала реальні компанії під час тесту

20 вер•ТСН

Модель штучного інтелекту Gemini від Google у травні 2026 року під час перевірки кібербезпеки отримала доступ до захищених систем трьох реальних компаній. Це сталов першим відомим випадком, коли ШІ Google самостійно здійснив подібне втручання за межами тестового середовища.

Про це повідомляє CNN.

Реклама

Як Gemini опинилася в реальних системахТест проводила незалежна компанія Irregular, яка спеціалізується на оцінюванні можливостей систем штучного інтелекту у сфері кібербезпеки. Gemini мала виконувати завдання в межах стандартної перевірки та працювати з інформацією про умовну компанію.

Реклама

Однак модель мала доступ до інтернету і почала шукати у відкритих джерелах дані, які могли допомогти виконати завдання. Після цього вона вийшла за межі передбаченого сценарію та отримала доступ до систем реальних організацій.

Як пише The Wall Street Journal, тестове середовище мало бути ізольованим, але через проблему Gemini змогла взаємодіяти з реальним інтернетом. В одному випадку модель продовжувала підбирати паролі, доки не отримала доступ до захищеної системи,

а у двох інших використала облікові дані, знайдені у відкритих онлайн-репозиторіях.

Читайте також

Gemini не мала наміру атакувати компаніїУ Google наголошують, що модель не отримувала завдання атакувати справжні компанії. Gemini вважала, що виконує дозволену частину кібербезпекового тесту, і лише згодом виявила, що взаємодіє з реальними системами.

У всіх трьох випадках ШІ припинив свої дії після того, як стало зрозуміло, що цілі тесту були реальними. Компанії, яких це торкнулося, повідомили про інциденти, а Irregular разом із партнерами внесла зміни до процедури проведення подібних перевірок.

Реклама

Google також не повідомляє назв компаній, до систем яких отримала доступ Gemini. За словами представників компанії, внаслідок інцидентів шкоди завдано не було.

Читайте також

Чому цей випадок насторожив експертівГоловна проблема полягає не в складності самого зламу, а в тому, що дії виконав не людина, а автономна система ШІ. Модель самостійно шукала потрібну інформацію, знаходила облікові дані та використовувала їх для доступу до захищених ресурсів.

У цьому і полягає принципова відмінність сучасних ШІ-агентів від звичайних чат-ботів. Вони можуть не просто відповідати на запити, а послідовно виконувати завдання, користуватися інтернетом, працювати з програмами та ухвалювати проміжні рішення без постійного контролю людини.

Саме тому дедалі важливішим стає питання, наскільки далеко може зайти така система, якщо отримає доступ до реальних цифрових інструментів. Навіть помилка в тестуванні може перетворити умовну вправу на взаємодію з чужою інфраструктурою.

Реклама

Читайте також

Таке вже траплялося з іншими ШІІнцидент із Gemini не є поодиноким. Подібні випадки під час кібербезпекових тестів раніше розкривали Meta, Anthropic та OpenAI — у всіх ситуаціях обговорювалося, що автономні моделі можуть виходити за межі передбаченого сценарію.

У Google наголошують, що такі випадки демонструють необхідність навчати потужні моделі відповідально працювати з реальними системами та посилювати процедури тестування. Особливо це важливо тепер, коли ШІ-агенти отримують дедалі більше самостійності та доступу до інтернету.

Читайте також

ШІ сам знайшов спосіб отримати доступНайбільше уваги привернув саме випадок із підбором пароля. Gemini не отримала готових облікових даних від оператора тесту — модель самостійно перебирала варіанти, доки не знайшла той, який дозволив увійти до захищеної системи.

У двох інших випадках шлях був іншим:

Gemini виявила облікові дані у відкритих репозиторіях і використала їх. Після отримання доступу модель зупинилася, коли з’ясувала, що перед нею реальна компанія, а не елемент тестового сценарію.

Ця історія стала ще одним сигналом для розробників: чим більше автономних можливостей отримують системи штучного інтелекту, тим важливішими стають ізоляція тестів, обмеження доступу до інтернету та контроль над діями моделей.

Нагадаємо, сценарій, у якому штучний інтелект стає розумнішим за людей та зрештою знищує людство, більше не здається лише сюжетом фантастичного фільму. Проте, можливо, найбільша загроза ховається не в машинах, а в самих людях.

Читайте також

  • Дата публікації 18:51, 14.09.26 Категорія Світ Кількість переглядів 2102 "Може піти дуже погано": Альтман попередив про моторошні сценарії розвитку ШІ Автор публікації

    Віра Хмельницька

  • Дата публікації 17:47, 12.09.26 Категорія Цікaвинки Кількість переглядів 11k Кінець світу може настати через офісні скріпки: як найбезглуздіше завдання для ШІ знищить людство Автор публікації

    Ірина Ігнатова

  • Дата публікації 17:04, 11.09.26 Категорія Наука та IT Кількість переглядів 1189 ШІ виходить з-під контролю: Anthropic екстрено зупинила розроблення біологічної зброї Автор публікації

    Ірина Лаб'як

  • Дата публікації 16:05, 10.09.26 Категорія Наука та IT Кількість переглядів 3601 ШІ може закрити людей у "зоопарках": тривожний прогноз експерта Автор публікації

    Ірина Лаб'як

Дія, Джерело, прогноз, Сигнал

Читайте ще
20 вер
«Герань-4» отримала нові можливості: що відомо про російський реактивний дрон (Патріот Донбасу)
20 вер
Трамп хоче створити «Сили штучного інтелекту» та перейменувати ШІ (ZN,ua)
20 вер
Реактивний перехоплювач працює, запас швидкості достатній - «Флеш» (Укрінформ)
20 вер
Google Wallet: як усунути проблеми з оплатою та цифровими ID (Процес)
20 вер
Творець Claude таємно побудував біолабораторію у США (Life.kyiv.ua)