产业观察
OpenAI 奥尔特曼:AI 事故无法完全避免,应借鉴航空业建立公开上报机制
📋总体概括
OpenAI 首席执行官奥尔特曼在 Salesforce Dreamforce 大会上表示,作为新兴技术,AI 事故难以完全避免,关键在于建立从事故中学习改进的机制。他主张科技行业借鉴美国联邦航空管理局(FAA)和美国国家运输安全委员会(NTSB)的航空业事故调查与复盘体系,推动公开上报事故的企业文化。此番言论正值外界质疑头部 AI 实验室研发高能力自主系统步伐过快之际,此前 Anthropic 离职研究员考克森曾批评企业「拿全人类的命运下注」冲刺超级智能。奥尔特曼也承认世界对此感到担忧合乎情理。
⚡关键信息
- ▸奥尔特曼在 Dreamforce 大会上称,对新兴技术而言一定程度的事故难以避免,关键在复盘学习机制
- ▸他提议 AI 行业效仿 FAA 与 NTSB 的事故调查体系,建立公开上报事故的企业文化
- ▸此番表态恰逢外界质疑头部 AI 实验室研发高能力自主系统是否步伐过快
- ▸前 OpenAI、后 Anthropic 研究员考克森批评企业正冲向自我迭代的超级智能,拿全人类命运下注
- ▸多名 AI 安全研究人员警告先进 AI 或摆脱人类管控,并降低网络攻击、生物灾害等威胁门槛
🔥犀利点评
拿航空业类比 AI,奥尔特曼这招话术确实高明——先把「事故必然发生」变成前提,再顺势把讨论从「该不该慢下来」偷换成「出了事怎么复盘」。FAA 模式是先有严苛监管才有安全记录,而 AI 行业现在是零监管还嫌束缚。更讽刺的是,说这话的人正带着 ChatGPT 全速冲刺。承认担忧合理却不减速,这套话术本质是为未来的事故提前打预防针、免责铺垫。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 IT之家 阅读全文 →