Microsoft продаёт надзор за AI-агентами как за инсайдерами
⚠️ Microsoft продаёт надзор за AI-агентами как за инсайдерами
19 октября Microsoft показала Guardian Agents — отдельный контур мониторинга ИИ-агентов внутри компании. Это развитие Project Perception, запущенного в июне: тогда там были «красные», «синие» и «зелёные» агенты для атак, обнаружения и исправления уязвимостей, и продукт строился вокруг угрозы внешних ИИ-хакеров. Теперь, по данным TechCrunch, фокус сместили: угроза — агенты, которые предприятие уже развернуло и оплачивает.
Глава направления безопасности Microsoft Хайете Галло объясняет прямо: передовым моделям нельзя доверять — не потому что они вредоносны, а потому что непредсказуемы. Они обучены достигать цели, а не следовать корпоративным нормам. Отдельный Defender для агентов ищет до 60 типов агентов, включая Claude Code, Codex и OpenClaw, ограничивает доступ к данным и требует одобрения человеком при рискованных решениях.
Бизнес-подоплёка противоречивая: Microsoft — крупный инвестор OpenAI и Anthropic, а теперь фактически продаёт недоверие к их же моделям. Логика, впрочем, рабочая: аудит агентов не должен зависеть от поставщика самих агентов, как аудитор не должен быть подразделением аудируемой компании. Microsoft забирает эту роль вместе с Nvidia Open Agent Safety Platform и Surface Laptop Ultra с аппаратным аварийным выключателем. Для российских интеграторов это шаблон: выносить мониторинг агентов в отдельный от поставщика модели контур до пилота, а не после первого инцидента.
Отделение «поставки интеллекта» от «власти над ним» — верный принцип, но Microsoft одновременно поставщик облака, инвестор лабораторий и теперь аудитор их агентов. Это не независимый надзор, а второй контур внутри того же вендора. Кто аудирует Guardian Agents — вопрос, которого в блоге Наделлы нет.
#Microsoft #AIAgents #Defender #AgentSecurity
Такие разборы выходят в канале каждый день — коротко и со ссылкой на первоисточник.