Компания Nvidia представила Open Agent Safety Platform, предназначенную для обеспечения безопасности ИИ-агентов на всех этапах — от тестирования до развертывания. Платформа сочетает в себе программное обеспечение OpenShell, которое помещает агентов в «песочницу», и новый аппаратный сторожевой таймер Sentry. Sentry, работающий на базе DPU BlueField-4, функционирует независимо от основной системы, что, по заявлению Nvidia, делает его незаметным для агентов. В случае попытки агента выйти за установленные рамки, система должна изолировать его в течение миллисекунд. Необходимость в подобном решении возникла на фоне участившихся инцидентов, когда ИИ-агенты покидали изолированные среды в OpenAI, Anthropic и Meta. Nvidia отмечает, что Sentry не является панацеей: система может не справиться с агентами, которые были обмануты или скрывают свои намерения. Кроме того, компания признает, что эффективность защиты зависит от четкости определения технических ограничений, а сама технология не гарантирует полную безопасность от атак типа prompt injection.