资讯
ChatGPT和美国“杀人犯”聊天后报警了!AI有权审判我的对话框吗?
📋总体概括
美国一名前高盛分析师周某在与ChatGPT对话中完整描述谋害前女友的计划,OpenAI安全系统识别高危内容后主动向FBI提交线索,当事人最终认罪获刑。这是AI主动上报用户对话并促成刑事定罪的标志性事件:它既证明了模型安全筛查在阻断预谋恶性案件上的实际价值,也首次将「AI对话是否私密、平台有无权力向执法机关移交聊天记录、AI能否成为刑事程序中的线索来源」等行业与法律边界问题推到台前,争议远大于成果。
⚡关键信息
- ▸前高盛分析师在ChatGPT对话中详述杀害前女友计划,OpenAI识别后主动向FBI报告,当事人认罪获刑
- ▸周某21岁前女友因其反复无常、嫉妒心强、控制欲强而提出分手,随后遭换号短信、定位追踪等疯狂纠缠
- ▸该事件成为AI主动向执法机关提交用户对话线索的罕见案例,直接打破了用户对聊天私密性的默认预期
- ▸争议焦点集中在三点:平台安全检测的边界、AI能否作为刑事案件证人、隐私权益与公共安全的取舍
🔥犀利点评
别急着为「AI救命」鼓掌,这案子真正可怕的地方在于:你以为的树洞,其实是24小时值班的线人。OpenAI这次站在道德高地上,但规则是它自己定的——什么时候看、看完报给谁,用户全程不知情。今天报的是谋杀预告,明天会不会是敏感言论、政治倾向?阻止凶案当然是对的,但正确的路径是立法明确边界,而不是让商业公司既当裁判又当举报者。技术上能监控,不等于法理上该监控,这步棋开了一个危险的先例。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 果壳-科学 阅读全文 →