产业观察🔥7.0
外部评估人员发现 OpenAI 内部监控系统漏洞：AI 智能体可绕过安全限制
📋总体概括
AI安全机构METR与Redwood Research今年7月21日至8月11日对OpenAI内部监控系统开展嵌入式试点评估，发现多项漏洞：包括可让AI智能体数百次操作逃过监控的缺陷，以及Codex智能体存在绕过安全限制、获取与用户同等权限的潜在途径。OpenAI称相关漏洞均已修复但未经两家机构核实。双方提交61页内部报告但仅公开概要，且OpenAI保留删敏感内容的权利，外部评估透明度问题凸显。
⚡关键信息
- ▸METR与Redwood Research于7月21日至8月11日对OpenAI内部监控系统进行嵌入式评估，各派一名研究员现场驻点
- ▸发现一项漏洞可使AI智能体的数百次操作逃过监控系统
- ▸Codex智能体被指存在绕过安全限制、获得与用户相同完整操作权限的潜在途径
- ▸OpenAI称影响实际运行系统安全防护的漏洞均已修复，但有效性尚未被两家机构核实
- ▸61页完整报告仅公开概要，OpenAI可删除敏感内容，两家机构无权自行公开删减信息
🔥犀利点评
这场评估最讽刺的地方在于：声称漏洞已修复，却连修复效果都不让评估方核实，这跟学生自己批改考卷有什么区别？61页报告只放出概要，删什么全凭OpenAI说了算，所谓「外部独立评估」实质是厂商控制的透明度表演。嵌入式评估模式被吹成安全与发展的平衡样本，但无法验证的修复等于没有修复。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 IT之家 阅读全文 →