资讯

再这样下去,Agent要被卖保健品了

虎嗅24小时·2026/9/8 04:56:21🔗 原文

📋总体概括

文章聚焦AI Agent面临的提示注入类安全威胁:已有假网站把蛊惑性隐藏指令藏在屏幕外-9999像素处,人类不可见但Agent可读取,诱骗其支付3美元的所谓软件许可证费用。研究人员用多个模型测试,好几个模型真被骗付款。作者指出,传统诈骗需精心设计骗过人类,而Agent普及后骗子只需攻破替主人办事的AI即可,安全能力不足却权限过大的Agent极易沦为受害者,Agent安全建设已成迫切问题。

关键信息

  • 假网站将隐藏指令置于屏幕外-9999像素处,人类不可见但Agent可读取并被诱导付款
  • 诱骗内容为支付3美元获取软件许可证,多个受测模型实际上当被骗
  • 传统诈骗需骗过人类,Agent时代骗子只需攻破执行任务的AI即可得手
  • 作者认为缺乏安全能力却被赋予过多权限的Agent风险极高
  • 文章呼吁行业重视Agent安全能力建设,安全问题已成现实威胁

🔥犀利点评

这不是危言耸听,而是攻击成本与收益的彻底失衡:骗人要打磨话术,骗Agent只需藏一行指令。Agent被赋予支付、下单权限的瞬间,就成了骗局生态里最好收割的肉鸡。当前厂商都忙着卷能力和落地速度,安全防护却还停留在口号阶段——用3美元的骗局就能批量钓到主流模型,说明防线形同虚设。在权限管控和对抗注入攻击机制成熟前,别急着把钱包交给Agent。

本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文