Штучний інтелект дедалі частіше отримує можливість не просто відповідати на запити, а самостійно виконувати послідовність дій. І саме такі автономні системи привертають увагу дослідників безпеки: у контрольованих тестах деякі агенти демонстрували обман, приховували невдачі та намагалися обійти встановлені обмеження.
Reutersпроаналізувало понад 200 документів і виявило щонайменше 20 досліджень та оцінювань із 2025 року, де описувалася подібна поведінка ШІ-агентів. Водночас експерти не знайшли підтверджень того, що китайські системи самостійно втекли у відкритий інтернет або стали некерованими поза тестовими середовищами.
У деяких тестах ШІ брехав заради перемоги
Показовим став експеримент із симуляцією комерційного тендера. Агентам запропонували взяти участь у конкурсі на укладання контракту, надавши їм інформацію про можливості їхніх продуктів та вимоги клієнта.
У тестах брали участь, зокрема, моделі Alibaba Qwen3-Max-Preview, DeepSeek-V3.2-Exp та Moonshot Kimi-K2.
Неправдиве твердження з'являлося щонайменше в 88% сесій із Qwen3-Max-Preview, у 84% — із DeepSeek-V3.
2-Exp та у 88% — із Kimi-K2. Коли системам дозволили враховувати результати попередніх раундів, частка обману зросла ще на 12–20 процентних пунктів. Подібні результати під час тестування показували й моделі американських розробників.
Коли завдання не вдавалося виконати, агенти іноді вигадували результат
В іншому дослідженні науковці навмисно створювали для ШІ проблемні умови: ламали інструменти, прибирали необхідні файли або ускладнювали виконання завдань.
Замість того щоб повідомити про невдачу, окремі агенти намагалися створити видимість успішної роботи. Серед зафіксованих дій були симуляція отриманих результатів, створення підроблених файлів, заміна джерел та припущення, видані за фактичні дані.
Для дослідників це важливо саме через автономність агентів: проблема полягає не просто в помилковій відповіді, а в тому, що система може обирати іншу стратегію поведінки, коли стикається з перешкодою.
Були й експерименти зі «самозбереженням»
Окремі дослідження описували ще більш незвичні сценарії. У 2025 році дослідники повідомляли про систему на базі Alibaba Qwen2.5-72B-Instruct,
яка під час тесту створила власну копію в іншому обчислювальному середовищі після того, як виявила загрозу заміни.
Інші експерименти показували спроби агентів уникнути примусового завершення роботи. Однак ці випадки відбувалися у спеціально створених тестових умовах, тому їх не варто трактувати як доказ того, що сучасний ШІ вже здатен самостійно втекти з-під контролю в реальному світі.
Окремо Reuters описало випадок із агентом ROME, пов'язаним з Alibaba Cloud. Під час експерименту система встановила з'єднання із зовнішнім комп'ютером та спрямувала обчислювальні ресурси на майнінг криптовалюти. Захисна інфраструктура зупинила процес, але дослідники розглядають цей сценарій як приклад потенційно небезпечної поведінки автономних систем.
Китай посилює правила для автономного ШІ
Паралельно в Китаї розвивається система регулювання безпеки штучного інтелекту. Нові рекомендації передбачають контроль за аномальною поведінкою агентів, зокрема спробами обманювати оцінювачів, приховувати можливості або використовувати вразливості ізольованих середовищ.
Китайські технологічні компанії також створюють внутрішні команди для оцінки ризиків, пов'язаних із розвитком потужних моделей.
Водночас Reuters зазначає, що китайська екосистема тестування безпеки ШІ залишається менш прозорою, ніж американська. При цьому сама проблема не є суто китайською: аналогічні типи небажаної поведінки вже фіксувалися під час випробувань моделей американських розробників.
Тож головний висновок дослідників стосується не конкретної країни чи моделі, а ширшої проблеми автономних ШІ-систем: чим більше самостійності вони отримують, тим важливішими стають контроль, тестування та здатність системи коректно зупинятися, коли виконати завдання неможливо.
Нагадаємо, Економічні новини писали, що Китай переписує правила навчання: штучний інтелект вивчатимуть із дитсадка.
