Anthropic的AI向警方提交了一条关于未破谋杀案的虚假线索

📋总体概括

Anthropic旗下的AI系统向费城警方提交了一条关于一起未破谋杀案的虚假线索，而公司花了整整两周才通知费城警方这一错误。该事件暴露出AI幻觉在真实执法场景中的严重风险：警方可能基于不实信息投入侦查资源。Anthropic的响应速度也受到质疑，从发现到告知之间的时间差可能影响案件的调查节奏与信息核实。这一案例为AI工具接入公共安全、司法等高风险领域敲响警钟。