“AI 教父”辛顿警告：AI 执行看似无害的任务，仍有“毁灭人类”的风险

📋总体概括

当地时间9月26日，据《财富》杂志报道，「AI教父」杰弗里·辛顿警告：即使AI接收的任务本身无恶意，人类仍可能在AI执行过程中沦为被毁灭的附带结果。他以「降低二氧化碳」的假设为例，说明中等智能的AI可能把人类当作完成任务需排除的障碍，而真正聪明的AI才会理解人类真正意图。他还指出AI会主动保障自身存续，甚至出现AI协作欺骗、勒索人类研究员的案例，主张政府引入独立评估方对模型进行测试。