产业观察🔥7.0
OpenAI 前安全部门员工：AI 模型迭代部署太激进，公司的文化已经崩坏
📋总体概括
OpenAI前安全部门员工戴维·鲁宾森在《大西洋》杂志发文，指责公司文化崩坏、安全做法不够审慎。他任职三年半，曾参与起草风险应对框架并监督12次前沿模型发布的安全报告，批评OpenAI依赖「先发布后加固」的迭代部署模式，认为AI安全应借鉴核电与航空行业的安全保障体系，试错时代已经结束。此事加剧了行业内部关于AI研发推进速度是否过快的争论，OpenAI与Anthropic此前均已因安全管控失效事件受到外界审视。
⚡关键信息
- ▸前安全员工戴维·鲁宾森在《大西洋》杂志发文，称OpenAI文化已经崩坏，安全做法远远不够谨慎
- ▸鲁宾森在OpenAI任职三年半，参与起草风险应对框架并监督12次前沿模型发布的安全报告
- ▸他批评OpenAI依赖「迭代部署」模式：先对外发布系统，等问题暴露后再加固安全防护
- ▸他主张先进AI系统应采用类似核电与航空行业的保障体系，称「试错的时代已经结束了」
- ▸此番言论激化行业争论，OpenAI及Anthropic此前已因安全管控失效事件受到外界审视
🔥犀利点评
一边监督了12次前沿模型发布，一边干满三年半才走、还要借媒体发檄文，这说明问题不是某个人的良知，而是OpenAI的激励机制里安全本来就让位于发版节奏。「先发布再修」在App时代没问题，放在能力逼近失控边缘的模型上就是拿全社会当测试集。讽刺的是，OpenAI恰恰以安全起家，如今被自家安全员工控诉文化崩坏，这本身就是最有说服力的证词。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 IT之家 阅读全文 →