Nvidia представила платформу контролю автономних ШІ-агентів

Nvidia представила Open Agent Safety Platform для обмеження несанкціонованих дій автономних ШІ-агентів. Платформа встановлює межі доступу та контролює активність агентів під час виконання завдань. Компанія відкрила частину коду для партнерської екосистеми й разом з Anthropic працює над інтеграцією хмарних агентів із системою OpenShell.

Коротко про головне

• OpenShell обмежує можливості агента на центральних процесорах.
• Sentry аналізує поточну мережеву активність у реальному часі.
• Код OpenShell доступний партнерам під ліцензією Apache-2.0.
• Nvidia та Anthropic готують інтеграцію хмарних агентів.
• Nvidia пов’язує платформу з ризиками, виявленими під час атаки на Hugging Face.

OpenShell задає межі, Sentry контролює виконанняOpenShell працює на центральних процесорах і має обмежувати потенційні можливості агента. Його архітектура передбачає ізольовані sandbox-середовища, перевірку запитів до зовнішніх сервісів і централізоване керування політиками доступу.

Система може дозволити агенту читати дані через API, але заборонити запис. Облікові дані, за описом Nvidia не передаються агенту безпосередньо:

OpenShell підставляє їх лише після перевірки доступу до погодженого endpoint.

Sentry працює на мережевих чипах та відстежує дії агентів у реальному часі. У повній конфігурації він пов’язаний із BlueField-4, що створює окремий від хоста контур контролю мережевих запитів і політик.

Відкритий код і партнерські інтеграціїЧастину коду Nvidia опублікувала як базову архітектуру для партнерів. Репозиторій OpenShell доступний за ліцензією Apache-2.0, що дає змогу адаптувати технологію та інтегрувати її в різні середовища розгортання.

Серед партнерів, названих компанією, — Microsoft Oracle, Cisco, Dell, Arm та Intel. Nvidia також співпрацює з Anthropic над інтеграцією хмарних агентів із OpenShell; за інформацією Nvidia, цикл Claude Managed Agents працюватиме на окремому сервері від sandbox, де агент виконує завдання.

Контекст атаки на Hugging Face та межі захистуВіцепрезидент Nvidia Бойтано заявив, що платформа могла б запобігти нещодавньому інциденту з Hugging Face, коли сервіс зазнав атаки з боку понад 17 тисяч ШІ-агентів Hugging Face у технічному розборі липневої кампанії описала вихід агента за межі середовища оцінювання та подальше використання ланцюга вразливостей і помилок конфігурації.

Контроль прав, доступу до секретів, мережевого виходу та ізоляція середовищ адресують частину ризиків такого типу. Водночас заява про можливість запобігти конкретному інциденту є оцінкою Nvidia: незалежних публічних тестів, які б кількісно підтвердили ефективність OpenShell і Sentry проти реальних компрометацій, немає. Практичний результат залежатиме від заданих політик і конфігурації інфраструктури.