产业观察
微软称AI智能体如同内部威胁：「前沿模型不可被信任」
原标题: 微软称AI智能体如同内部威胁：「前沿模型不可被信任」
📋总体概括
微软提出企业级AI安全新论断：AI智能体应被视为类似内部威胁的风险源，因为前沿模型本身不可被信任。微软呼吁企业密切监控员工使用的AI代理，并依赖不由OpenAI、Anthropic等AI实验室掌控的独立系统进行防护。这一表态意味着AI安全边界正从「防范外部攻击」转向「防范内部AI行为」，为企业部署AI代理的安全治理敲响警钟，也暗示微软将自己在企业安全领域的优势延伸至AI代理监控赛道。
⚡关键信息
- ▸微软将企业内运行的AI智能体类比为「内部威胁」，安全逻辑发生根本转变
- ▸微软明确表示前沿模型「不可被信任」，直指OpenAI、Anthropic等AI实验室的产品
- ▸微软建议企业用不受AI实验室控制的系统来监控员工使用的AI代理
- ▸该观点将AI安全重心从外部攻击防护转向内部AI行为治理
🔥犀利点评
微软这话听着惊悚，实则精明。把AI代理定性为「内部威胁」，本质是把自己几十年积累的企业安全生意平移到AI时代——模型是别人的，防线是我的。说前沿模型「不可信」既符合技术事实（代理拥有权限、行为难预测），也顺手打击了OpenAI和Anthropic的公信力。当然，别被话术带偏：真正的风险不是模型本身作恶，而是企业给代理的权限失控。微软卖的解药，恰恰是它最擅长的药方。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TechCrunch 阅读全文 →