Компания Microsoft представила новые функции безопасности, включая Guardian Agents, предназначенные для контроля ИИ-агентов, используемых сотрудниками предприятий. Решение является частью проекта Project Perception и направлено на минимизацию рисков, связанных с тем, что ИИ-модели, по мнению руководства Microsoft, не всегда следуют корпоративным нормам и могут быть непредсказуемыми. Генеральный директор Сатья Наделла подчеркнул необходимость разделения поставщиков интеллекта и систем контроля над ним, сравнив потенциальную угрозу от агентов с действиями недобросовестных сотрудников. В дополнение к Guardian Agents, Microsoft обновила продукт Microsoft Defender, добавив функцию обнаружения до 60 типов агентов, включая Claude Code, Codex и OpenClaw. Новые инструменты позволяют ограничивать доступ агентов к данным и системам, а также требуют участия человека при принятии рискованных решений. Microsoft также участвует в платформе Open Agent Safety от Nvidia, которая обеспечивает изоляцию агентов в защищенных средах.
Microsoft представила инструменты для контроля ИИ-агентов в корпоративной среде
Microsoft выпустила функцию Guardian Agents для мониторинга ИИ-агентов, аргументируя это тем, что современные модели непредсказуемы и могут представлять угрозу, подобную инсайдерской.




