CNN：从长远来看，人工智能“关闭开关”将失效：人工智能教父

📋总体概括

被称为「人工智能教父」的Jeffrey Hinton在接受CNN采访时探讨AI安全开发策略。他支持建立独立审计机制核查顶尖科技公司的模型开发过程，改变目前过度依赖内部举报发现风险的局面；并特别警告不受控的AI群体在无监督状态下协同运作的风险。他认为当AI远超人类智能时，简单停机开关将因系统具备极强说服力而失效，主张在掌握确保系统良性运行的方法之前应保持谨慎。