产业观察
Base Labs联手Hugging Face与Goodfire启动开放权重AI安全合作
原标题: Base Labs launches an open-weight AI safety partnership with Hugging Face and Goodfire
📋总体概括
Baseten旗下研究机构Base Labs宣布与开源模型平台Hugging Face及模型可解释性公司Goodfire达成合作，聚焦开放权重模型的安全研究。三方将共同开发并公开发布针对开放权重模型的训练与监控方法，把安全能力开源化，使开放模型在安全性上不再落后于闭源AI。此举填补了开源生态在安全工具链上的空白，也为三方在AI安全领域建立技术话语权。
⚡关键信息
- ▸Base Labs是Baseten今年早些时候成立的研究团队，主打开放权重模型研究
- ▸合作方包括开源社区核心平台Hugging Face与模型可解释性公司Goodfire
- ▸三方将开发并公开发布开放模型的训练与监控安全方法
- ▸项目目标是以开源方式弥补开放权重模型在安全能力上与闭源模型的差距
🔥犀利点评
开源模型的安全短板早就被反复吐槽，但真正下场做开源安全工具的却没几家，这次三方组合算是把「开源不只是白嫖权重」这句话落了地。Baseten有推理基建，Hugging Face有分发渠道，Goodfire有可解释性技术，链条是通的。但风险也明显：安全方法公开后同样会被滥用者研究，开放与安全的平衡没那么容易。先看能落地发布多少真东西再说。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TechCrunch 阅读全文 →