Китай поступово формує систему регулювання ризиків, пов’язаних із можливим виходом високорозвинених систем штучного інтелекту з-під контролю людини. Пекін розглядає такі сценарії не лише як теоретичну загрозу, а як ризик, для якого необхідно заздалегідь створювати технічні стандарти, процедури перевірки та механізми державного нагляду.
Як пише Reuters, у травні 2026 року китайські регулятори офіційно визначили «втрату операційного контролю» одним із ризиків, пов’язаних із роботою ШІ-агентів.
Від розробників таких систем вимагають передбачити засоби, які дозволять своєчасно виявляти потенційно небезпечну поведінку, втручатися в автономну роботу ШІ, блокувати його дії та відновлювати контроль над системою.
Серед ризиків – самокопіювання та отримання ресурсівПідхід до таких загроз китайські регулятори почали формувати ще раніше. У вересні 2024 року до рамкових правил уперше включили сценарій, за якого система штучного інтелекту може самостійно отримувати необхідні їй ресурси, створювати власні копії та намагатися встановити контроль над іншими системами або середовищем.
У 2025 році перелік відповідних сценаріїв та вимог було розширено.
Таким чином, китайський підхід передбачає підготовку до потенційно небезпечної автономної поведінки ШІ ще на етапі розроблення та тестування систем. Основний акцент робиться на можливості технічно обмежити роботу моделі, якщо її поведінка перестане відповідати встановленим параметрам.
Регулятори виходять із того, що навіть ризики з невизначеною ймовірністю реалізації потребують заздалегідь створених механізмів реагування, особливо зі зростанням автономності ШІ-агентів.
Китай також досліджує військове застосування автономних системПаралельно в Китаї розширюються дослідження можливостей використання штучного інтелекту та робототехніки у військовій сфері.
За даними Reuters, китайські військові дослідники вивчають перспективи застосування людиноподібних роботів у майбутніх бойових операціях. Аналіз понад 100 військових закупівель, наукових робіт, патентів, державних документів та матеріалів оборонних компаній показав активізацію відповідних досліджень протягом 2025–2026 років.
Водночас підготовка регуляторних механізмів до можливої втрати контролю над ШІ не означає, що подібні сценарії вже реалізовувалися. Йдеться про превентивне регулювання потенційних ризиків, які можуть виникати в міру розвитку більш автономних та потужних систем штучного інтелекту.
