Гучний кіберінцидент чи спритний піар-хід? Це питання обговорюється після проведення внутрішньої перевірки безпеки в компанії OpenAI.
Цього тижня компанія повідомила, що її високопродуктивні моделі ІІ під час тестування обійшли передбачені захисні механізми і отримали доступ до зовнішніх систем. Однак критики підозрюють, що OpenAI також використовує цей інцидент для демонстрації можливостей своїх моделей.
За даними OpenAI, у тесті брали участь модель ChatGPT «GPT-5.6 Sol» і ще потужніша, поки не випущена модель. Перед ними поставили завдання вирішити перевірочні завдання з безпеки в ізольованому середовищі, що вимагало виявлення та використання вразливостей у комп’ютерних системах.
Комбінуючи різні вектори атак, моделі отримали доступ до комп’ютера, який уже не був ізольованим, а мав підключення до відкритого інтернету. Принаймні в одному випадку вони використали комбінацію викрадених облікових даних і раніше невідомих вразливостей. OpenAI охарактеризувала те, що сталося, як кіберінцидент, який продемонстрував просунуті можливості моделей.
Деякі представники галузі розглядають це як тривожний сигнал про зростаючі можливості атак з боку автономно працюючих систем штучного інтелекту.
Критики ж заперечують, що моделі не діяли за власною ініціативою. Навпаки, перед ними поставили чітке завдання - знаходити вразливості і вирішувати проблеми, використовуючи всі доступні засоби. Подібна тактика вже знайома за діями конкурента OpenAI - компанії Anthropic. Вона регулярно виступає з гучними попередженнями про можливості своїх найновіших моделей Claude. Суть послання така: система настільки потужна, що її опасаються навіть самі розробники. І все ж незабаром клієнти, можливо, зможуть отримати до неї доступ.
Такого роду піар став обов’язковим елементом в індустрії штучного інтелекту. Anthropic довела цей підхід до досконалості. Її генеральний директор Даріо Амодеї вже багато років попереджає, що ІІ може незабаром вийти з-під контролю і бути використаний для тотального стеження чи репресій. Періодично йдеться навіть про загрозу для людства загалом. Тепер цей маркетинговий хід, схоже, взяла на озброєння і OpenAI. Чим небезпечнішими і некерованими виглядають її моделі, тим потужнішими вони при цьому здаються.
