资讯
AI可能毁灭人类？专家接连警告
📋总体概括
前Anthropic、OpenAI研究员Jacob Coxon周二辞职，并在X平台发文指责两家公司竞相研发递归式自我改进的超级智能是「拿我们的生命做赌注」，帖文浏览量超7000万次。他透露业内开发者真心相信2030年前AI可能毁灭人类。Anthropic对齐科学负责人Evan Hubinger随后公开呼应，称未来十年内AI毁灭人类的概率超过10%，但承认目前尚无解决超级智能对齐问题的方案。内部人接连出走示警，凸显AI安全焦虑正从边缘话题走向行业核心矛盾。
⚡关键信息
- ▸前Anthropic、OpenAI研究员Jacob Coxon周二辞职，称两家公司在「拿我们的生命做赌注」
- ▸其示警帖文在X平台浏览量超过7000万次，引发业内研究人员共鸣
- ▸开发者普遍相信到2030年AI可能毁灭人类，风险核心是递归式自我改进（RSI）
- ▸RSI尚未实现，但Anthropic、OpenAI等公司自己警告这将令人类更难控制系统
- ▸Anthropic对齐科学负责人Hubinger公开称十年内AI毁灭人类概率超10%
🔥犀利点评
最讽刺的一幕出现了：定义并建造这头巨兽的人，一边喊着它有超过10%的概率吃掉全人类，一边照常上班领薪继续造。这不是预警，是免责声明——先把「我们警告过你」刻在碑上，再接着冲裁员和融资。Anthropic一面自我标榜安全优先，一面被自家研究员指为竞速者之一，安全叙事正在反噬其商业根基。真正的看点不是末日概率，而是：当内部人开始用辞职换流量说话，监管者还在等什么？
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 凤凰网 阅读全文 →