产业观察🔥8.0

中层不会消失,只是换成了Agent

虎嗅24小时·2026/10/22 08:08:43🔗 原文

📋总体概括

10月19日,微软宣布为其安全系统Project Perception增加一批「监工」AI,专门监督企业内其他AI Agent的执行行为。这些监工负责发现异常、查明原因、收回权限,必要时直接叫停Agent操作。其背景是:企业要让Agent替人干活就必须授予系统权限,而Agent可能因理解偏差或被恶意指令诱导而滥用权限闯祸。微软用AI监督AI的做法,折射出Agent规模化落地后企业安全治理的新命题——权限管控与行为审计成为刚需。

⚡关键信息

  • ▸10月19日微软宣布升级安全系统Project Perception,新增专门监督其他AI Agent的「监工」角色
  • ▸监工AI的职责包括发现Agent异常行为、查明原因、收回权限,必要时直接叫停操作
  • ▸Agent需要被授权才能干活,例如审批报销需查看单据和操作报销系统,权限滥用构成安全风险
  • ▸Agent出问题不一定是恶意,可能是理解错任务或被文件中夹带的恶意指令带偏
  • ▸治理方案本身也是AI,形成「用AI管AI」的企业安全新架构

🔥犀利点评

用AI监工AI,本质上是把传统安全治理里「审计与授权」的老问题搬进了Agent时代。企业不敢真正放权给Agent,根源是它既无法担责又可能被prompt injection带偏。微软这步棋看似技术创新,实则暴露了Agent落地的最大瓶颈——不是能力不够,而是信任缺失。谁解决了权限管控,谁才真正握住企业级Agent市场的入场券。

本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文 →