资讯🔥7.0

“AI 教父”辛顿:AI 灾难越来越近,10% 概率灭掉人类不是危言耸听

IT之家·2026/9/10 23:43:14🔗 原文

📋总体概括

「AI 教父」杰弗里·辛顿9月11日接受BBC《新闻之夜》采访时表示,AI导致人类灭绝的概率并非为零,10%是一个不算离谱的估计,并认同Anthropic研究员考克森「未来10年内AI有超10%概率杀死全人类」的判断。他还将灾难时间窗口从早期的30到50年缩短至10年甚至更短,风险场景涵盖网络攻击、AI研发致命病毒等。作为诺贝尔奖得主和深度学习奠基人,辛顿持续公开示警,凸显AI安全议题的紧迫性正在从学术讨论走向主流舆论。

关键信息

  • 辛顿称AI灭绝人类的概率难以估算,但10%是「不算离谱的估计」,认为说只有1%太愚蠢
  • 他认同Anthropic研究员考克森的判断:未来10年内AI有超过10%的概率杀死全人类
  • 辛顿将灾难时间窗口从30到50年逐步缩短至10年甚至更短,称其他人认为会更快
  • 风险路径包括网络攻击以及AI研发致命病毒等多种场景
  • Anthropic和OpenAI等公司已投入数十亿美元扩大模型规模,新模型能力显著提升

🔥犀利点评

10%这个数字听着吓人,本质却是一种无法验证的主观直觉——连辛顿自己都承认没人知道怎么估算。真正的信号不是概率本身,而是时间线被一再压缩:从30年砍到10年,反映的是头部公司军备竞赛式扩模型的速度。最讽刺的是,发出最响警报的人,正是亲手点燃这场竞赛的奠基者。警告值钱,但别让悲观的通胀稀释了真正该做的对齐工作。

本文由本站自动聚合,以下为原始来源:前往 IT之家 阅读全文