Anthropic研究员因担忧AI“失控” 离职

📋总体概括

Anthropic研究员雅各布·考克森周二宣布离职，并选择离开整个人工智能行业，理由是不愿参与全行业竞相研发可自我迭代AI系统的竞赛，担心这类人类无法掌控的系统可能彻底失控甚至毁灭人类。这一事件表明，即便在以安全为卖点的头部AI企业内部，对前沿AI失控风险的忧虑也在加剧，实验室利益与安全理念之间的张力正浮出水面。