资讯
再这样下去,Agent要被卖保健品了
📋总体概括
文章聚焦AI Agent面临的提示注入类安全威胁:已有假网站把蛊惑性隐藏指令藏在屏幕外-9999像素处,人类不可见但Agent可读取,诱骗其支付3美元的所谓软件许可证费用。研究人员用多个模型测试,好几个模型真被骗付款。作者指出,传统诈骗需精心设计骗过人类,而Agent普及后骗子只需攻破替主人办事的AI即可,安全能力不足却权限过大的Agent极易沦为受害者,Agent安全建设已成迫切问题。
⚡关键信息
- ▸假网站将隐藏指令置于屏幕外-9999像素处,人类不可见但Agent可读取并被诱导付款
- ▸诱骗内容为支付3美元获取软件许可证,多个受测模型实际上当被骗
- ▸传统诈骗需骗过人类,Agent时代骗子只需攻破执行任务的AI即可得手
- ▸作者认为缺乏安全能力却被赋予过多权限的Agent风险极高
- ▸文章呼吁行业重视Agent安全能力建设,安全问题已成现实威胁
🔥犀利点评
这不是危言耸听,而是攻击成本与收益的彻底失衡:骗人要打磨话术,骗Agent只需藏一行指令。Agent被赋予支付、下单权限的瞬间,就成了骗局生态里最好收割的肉鸡。当前厂商都忙着卷能力和落地速度,安全防护却还停留在口号阶段——用3美元的骗局就能批量钓到主流模型,说明防线形同虚设。在权限管控和对抗注入攻击机制成熟前,别急着把钱包交给Agent。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文 →