资讯
AI有可能“毁灭人类”？业内专家接连发出警告
📋总体概括
Anthropic研究员Jacob Coxon辞职并公开指控Anthropic与OpenAI「拿我们的生命做赌注」，称两家公司竞相研发可递归自我改进的超级智能，相关帖子浏览量超7000万次。Anthropic对齐科学负责人Evan Hubinger随后公开背书，称其相信未来十年AI毁灭人类的概率超过10%，且业界目前没有解决超级智能对齐问题的方案。业内人士对递归自我改进（RSI）风险的担忧正在从边缘走向公开化。
⚡关键信息
- ▸研究员Jacob Coxon从Anthropic辞职，公开指责Anthropic和OpenAI「拿我们的生命做赌注」
- ▸Coxon帖子浏览量超7000万次，称开发者真心相信2030年前AI可能毁灭人类
- ▸焦点是递归自我改进（RSI），即AI在无人干预下自行开发后续版本，目前尚未实现
- ▸Anthropic对齐负责人Hubinger回应：未来十年AI毁灭人类概率超10%，且没有解决超级智能对齐的方案
🔥犀利点评
最讽刺的一幕出现了：制造风险的人和预警风险的人是同一批人，Hubinger一边说「可能毁灭人类」，一边照常上班开发模型。这不是道德勇气，是免责声明——先把「我们警告过你」写进履历。10%的毁灭概率若为真，继续研发就是人类史上最不理性的押注；若为假，那这种恐吓式营销不过是为了争取监管话语权和行业壁垒。两边都不干净，公众却当真了7000万次。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →