Goodfire称其全新『由内而外』监控器能以极低成本揪出失控的AI代理

📋总体概括

AI可解释性公司Goodfire推出了一种更低成本的AI代理监控方案：不走『用一个AI盯着另一个AI』的传统路线，而是直接窥探模型内部运行状态，实时判断代理行为是否异常，只在可疑时才调用昂贵的后备审查。这一『由内而外』的monitor思路有望大幅压缩AI代理安全监控的成本，让大规模部署代理的企业更负担得起安全护栏。