More than 1 in 10 chance AI ‘could kill all humans,’ says Anthropic safety lead after colleague quits

📋总体概括

Anthropic安全负责人公开表示，人工智能在本十年末「杀死全人类」的概率超过10%，此言论发表在其同事因担忧各AI实验室不顾后果竞逐无法控制的「超人系统」而辞职数小时后。这一表态揭示了头部AI安全公司内部对前沿模型风险的深刻分歧与焦虑：一边是安全研究者的悲观量化评估，一边是商业竞争压力下的加速开发，Anthropic自身也被卷入「既要搞安全又要抢赛道」的结构性矛盾中。