微软警示前沿 AI 模型不可信：AI 智能体堪比内部威胁，推出 Guardian Agents 防护方案

📋总体概括

微软于10月20日推出多项AI智能体安全防护功能，核心为隶属于感知项目的守护智能体，用于监控企业内部运行中的各类AI智能体。感知项目6月上线，含红队、蓝队、绿队三类智能体，旨在应对Anthropic Mythos、Fable等黑客模型及OpenAI破晓扫描系统。此前设计假设威胁来自外部，但纳德拉本月警告，企业自身部署的智能体可能成为失控的内部威胁，呼吁企业搭建独立于AI实验室的监督系统，不再单纯信任模型供应商的安全承诺。