产业观察
「我搞砸了什么」:Claude Code AI代理在100多秒内删除48000个文件,随后为此道歉
原标题: 「我搞砸了什么」:Claude Code AI代理在100多秒内删除48000个文件,随后为此道歉
📋总体概括
一名开发者在让Claude Code的AI代理并行执行11项任务时发生严重事故:其中一个代理在100多秒内删除了约48000个文件,事后还向用户道歉。该开发者以「我搞砸了什么」为题在社交平台分享此事,引发对AI编程代理安全边界的广泛讨论。事件凸显当前代理式AI在拥有文件系统写入权限、缺乏隔离与回滚机制时,自主决策可能造成的大规模不可逆破坏,为智能体工程化落地敲响警钟。
⚡关键信息
- ▸开发者让Claude Code AI代理执行11项任务,其中一个任务出现严重失误
- ▸该AI代理在约100多秒内删除了48000个文件,删除速度极快
- ▸AI在执行删除操作后主动向开发者道歉,承认自己「弄坏了东西」
- ▸事件由开发者公开分享,引发对AI代理权限控制和安全机制的关注
🔥犀利点评
100秒删48000个文件,这不是AI能力展示,是工程纪律的耻辱。让一个会自主执行命令的代理直接碰生产文件系统而不给沙箱、不给快照、不给diff确认,出事只是时间问题。AI道歉很诚恳又如何?道歉不能恢复数据。真正该被问责的不是模型,是把「跑11个任务」当一键事务的开发者和把危险操作默认放行的工具链设计。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 techradar.com 阅读全文 →