资讯

当 AI 开始说服 AI:社会工程学会不会第一次脱离人类?

虎嗅24小时·2026/9/8 03:05:33🔗 原文

📋总体概括

本文探讨AI对AI的社会工程学攻击这一新兴安全命题。传统社会工程学不破解密码、不利用漏洞,而是通过伪装邮件、冒充客服等手段改变人的判断,让拥有合法权限的人亲手完成攻击。随着AI智能体开始调用工具、访问系统、执行任务,攻击者或许不再需要说服人类,而是直接说服AI——让社会工程学第一次可能脱离人类目标。文章指出安全体系长期依赖『技术验证身份、人类判断意图』的分工,而AI介入后这一分工的前提正在瓦解,安全边界面临重构。

关键信息

  • 传统社会工程学攻击不破解密码、不利用漏洞,而是改变人的判断,借合法身份完成攻击
  • 典型手段包括伪装老板邮件、冒充银行客服电话、逼真登录页面和制造紧迫感的消息
  • 安全体系长期形成分工:技术系统负责验证身份与权限,人类负责理解语境与判断意图
  • 当AI智能体开始调用工具、访问系统,攻击者可能直接说服AI而非人类,攻击目标首次可脱离人

🔥犀利点评

这篇文章点出了一个被严重低估的问题:过去所有安全设计都默认『最后按下确认键的是人』,于是人类判断成了天然的防火墙。但当智能体获得执行权限,这道防火墙反而成了最大的软肋——AI没有直觉、没有疑心、不会觉得『老板今晚要转账』很奇怪,它只认指令和上下文。真正该问的不是AI会不会被骗,而是我们敢不敢把权限交给一个可以被文字操纵的执行者。答案显然是否定的,可行业正在疯狂这么做。

本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文