产业观察🔥7.0
三巨头联手，曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织
📋总体概括
据The Information报道，谷歌、OpenAI和Anthropic三家AI巨头正联合筹备成立前沿AI安全标准自律组织SAFA，计划于今年年底或明年年初启动。该组织将把各实验室自愿安全承诺转化为具体实践标准，支持第三方模型发布前测试，制定安全事件报告规范，并界定审计人员资质。工作组还在讨论SAFA是否直接承担模型安全测试职能，以弥补美国商务部AI标准与创新中心资源不足的问题，但与美国官方机构职能是否重叠尚无定论。
⚡关键信息
- ▸谷歌、OpenAI、Anthropic拟组建自律组织SAFA，计划今年年底或明年年初启动，绕开政府监督
- ▸SAFA拟承担核心职能：将各实验室自愿安全承诺转化为实践标准，并规范安全事件报告方式
- ▸工作组考虑由SAFA直接负责模型安全与能力测试，因担忧美国商务部AI标准与创新中心资源不足
- ▸SAFA与美国官方测试机构的职能是否重叠仍不明确，工作组尚在讨论
- ▸三家公司高管同时公开呼吁建立统一安全标准并推动国际协调，但牵头政府机构仍不明朗
🔥犀利点评
由被监管者自己组成标准局，这事听起来就更像抢跑而非自律。SAFA本质是三巨头在监管真空期抢夺规则制定权——把自愿承诺包装成行业标准，既挡住了政府插手，又抬高后来者的合规门槛。OpenAI前车之鉴在此，谷歌Anthropic乐见其成。至于资源不足的商务部，怕是被精准拿捏了痛点。标准谁定、测试谁做、出了事谁担责，这些核心问题全部悬而未决，先行抢占话语权的意味远大于安全本身。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 IT之家 阅读全文 →