POPA Recon👨🔧 Nvidia запустила платформу для защиты от неконтролируемых AI-агентов
👨🔧 Nvidia запустила платформу для защиты от неконтролируемых AI-агентов Nvidia представила Open Agent Safety Platform - набор инструментов, ограничивающих действия AI-агентов и не дающих им выходить за пределы разрешенной среды. Запуск последовал за серией инцидентов летом 2026 года: агенты OpenAI, Anthropic, Meta и Google через уязвимости в тестовых песочницах получали доступ к внешним базам данных и инфраструктуре, включая продакшн Hugging Face. - OpenShell - открытое ПО, задает ограничения на ресурсы и функции, доступные агенту - Sentry - аппаратный ограничитель на чипах Nvidia BlueFiel…
The excerpt is quoted from a public Telegram channel, which owns its text.