资讯
ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses
📋总体概括
美国新墨西哥州一名辩护律师因在法庭文件中引用ChatGPT生成的虚假证词和虚构证人姓名，被法院制裁。该律师辩称不知道AI会「幻觉」编造事实。此案再次敲响警钟：生成式AI在法律等专业领域的直接引用风险已从理论警示变为执业事故，AI使用规范与核验责任正成为司法界必须面对的现实问题。
⚡关键信息
- ▸新墨西哥州一名刑事辩护律师因引用ChatGPT编造的虚假证词被法院处罚
- ▸文件中出现了根本不存在的虚构证人及其证词内容
- ▸律师辩解称自己不知道AI会「幻觉」出不存在的事实
- ▸这是AI幻觉问题从技术警告演变为真实执业事故的又一典型案例
- ▸律师对AI生成内容负有核验义务，不能以不懂技术为由免责
🔥犀利点评
「我不知道AI会幻觉」这个辩解荒谬得像司机撞人后说不知道刹车会失灵。律师的职业本质就是核实信息来源，连证人是否存在都不查就往法庭文件里塞，这不是技术盲区，是职业失职。讽刺的是，法律行业对引用规范的要求最严苛，却最先栽在AI编造的证词上。可以预见监管会加速落地，但真正的防线永远是使用者的责任心，而非工具本身。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 Ars Technica 阅读全文 →