Компания Microsoft представила новые функции безопасности, включая Guardian Agents, предназначенные для контроля ИИ-агентов, используемых сотрудниками предприятий. Решение является частью проекта Project Perception и направлено на минимизацию рисков, связанных с тем, что ИИ-модели, по мнению руководства компании, не всегда следуют корпоративным нормам и могут действовать непредсказуемо. Генеральный директор Сатья Наделла подчеркнул необходимость разделения поставщиков «интеллекта» и систем контроля над ним, сравнив потенциально опасных агентов с недобросовестными сотрудниками. В рамках обновления Microsoft Defender добавлена функция обнаружения до 60 типов агентов, включая Claude Code, Codex и OpenClaw. Система позволяет ограничивать доступ агентов к данным и требовать одобрения человека при выполнении рискованных операций. Кроме того, Microsoft присоединилась к платформе Open Agent Safety от Nvidia, которая использует аппаратные средства для изоляции и экстренной остановки работы агентов.
Microsoft представила инструменты для контроля ИИ-агентов в корпоративной среде
Microsoft выпустила функцию Guardian Agents для мониторинга ИИ-агентов, аргументируя это непредсказуемостью моделей и рисками «инсайдерских угроз».



