人类距离AI失控还有多远？

📋总体概括

2026年9月，Anthropic研究员雅各布·考克森辞职，称工作三年后对AI安全愈发恐惧，其推文浏览量超1.6亿。几乎同期，Anthropic对齐科学负责人埃文·胡宾格公开表示未来十年内AI导致人类灭绝的概率超过10%，并承认公司至今没有解决超级智能对齐问题的方案，甚至未走在能解决的路上。两位核心安全研究者接连发声，把头部AI公司内部对安全落后于能力的担忧首次摆到台面，引发对行业竞赛速度与对齐研究进展严重失衡的广泛讨论。