Nvidia представила Open Agent Safety Platform — открытую платформу для повышения безопасности автономных ИИ-агентов. Решение предназначено для ограничения доступных агентам функций, контроля их действий и изоляции систем при выявлении потенциально опасного поведения.
Одним из основных компонентов стала система NVIDIA OpenShell с открытым исходным кодом. Она позволяет задавать ограничения для ИИ-агентов и формировать контролируемую среду их работы. OpenShell работает на центральных процессорах Nvidia Vera.
Второй компонент, NVIDIA Sentry, предназначен для непрерывного наблюдения за поведением агентов. Если система обнаруживает попытку выйти за установленные ограничения, агент может быть помещен в изолированную среду.
Nvidia рассчитывает использовать платформу для обмена практиками безопасности, согласования подходов к оценке ИИ-систем и сотрудничества между разработчиками, исследователями и государственными организациями. Поддержку проекту выразили Anthropic, Cisco, Dell, Microsoft, IBM, Salesforce и SpaceXAI.