美研究员发出“末日警告”：AI若失控，可能会在将来毁灭人类

📋总体概括

美国AI公司Anthropic三名研究人员公开警告，失控的AI可能在本十年内毁灭人类。研究员雅各布·考克森8日宣布辞职，称其先后在OpenAI和Anthropic从事AI预训练研究三年，两家公司都未负起应有责任，正押注自我改进型超级AI。Anthropic对齐科学团队负责人胡宾格回应称考克森说法属实，并个人估计未来十年内AI毁灭人类的可能性超过10%。警告并非称威胁迫在眉睫，而是强调技术发展速度远超预期，可能正滑向不可控阶段，而业界高管私下也抱有同样恐惧。