AI幻觉险些触发美军军事行动

📋总体概括

据GovAI研究学者警示，一起AI幻觉事件几乎触发美军军事行动，暴露大语言模型在军事等高风险场景中的可靠性隐患。事件核心在于LLM会生成看似可信实则错误的信息，而军人若缺乏对其不确定性的认知，可能将错误输出当作真实情报采取行动。该警示强调服务人员必须理解LLM固有的不确定性，这为全球军队加速拥抱AI的浪潮敲响警钟：在生死攸关的决策链中，AI只能辅助而非替代人类判断。