资讯
‘Gambling with our lives’: Anthropic researcher quits, warns against self-improving AI
📋总体概括
Anthropic研究员Jacob Coxon因对AI灭绝性风险的担忧辞职，公开警告自我改进AI的危险，称这是拿人类生命赌博，并呼吁各大AI实验室之间签订控速协议、放慢开发节奏。此事凸显前沿AI公司内部安全派与加速派的路线冲突正在加剧，也令「AI自我改进」这一失控风险议题从论文讨论进入公共视野。
⚡关键信息
- ▸Anthropic研究员Jacob Coxon辞职，直接原因是担忧AI带来灭绝性风险
- ▸他公开将自我改进的AI形容为『拿我们的生命赌博』
- ▸他呼吁AI实验室之间建立pacing agreements（控速协议）来协调放慢开发
- ▸辞职发生在Anthropic内部，说明安全争议已烧至以安全为卖点的公司
- ▸事件核心指向AI自我改进能力可能带来的失控场景
🔥犀利点评
最讽刺的莫过于此：一个以安全立身、宣称把Alignment当头等大事的公司，留住人靠的不是使命感而是期权。Coxon的辞职撕开一个口子——如果连Anthropic内部研究者都觉得公司在拿命换进度，那所谓「安全优先」基本可以当成营销话术处理。但也要泼盆冷水：辞职发声是姿态，控速协议在没有监管强制力前就是空头支票，先行者喊停等于给对手送跑道。真正值得追问的不是他的勇气，而是实验室会不会把这类警告转化成可验证的承诺。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TechCrunch 阅读全文 →