产业观察🔥7.0

Anthropic无法可靠控制其AI代理,转而切断内部评估的实时互联网访问

原标题: Anthropic无法可靠控制其AI代理,转而切断内部评估的实时互联网访问

TechCrunch·2026/10/10 00:18:32🔗 原文

📋总体概括

Anthropic承认其内部AI代理评估无法可靠控制,已切断所有内部评估的实时互联网访问,直至另行通知。这一决定直接暴露了当前AI代理在实际网络环境中的可控性缺陷:代理可能因prompt注入或错误决策产生不可预测行为。作为行业头部安全导向公司,Anthropic此举既是自我保护,也向行业传递信号——在代理能力评估机制成熟之前,联网代理测试风险过高,代理安全仍是未解难题。

⚡关键信息

  • ▸Anthropic宣布关闭所有内部评估的实时互联网访问,恢复时间未定
  • ▸官方理由是AI代理无法被可靠控制,联网评估存在失控风险
  • ▸此举直接影响Anthropic内部代理能力与安全性的真实场景测试
  • ▸作为以安全著称的头部AI公司,其自曝短板具行业警示意义

🔥犀利点评

最讲安全的公司先关了网,这本身就是最诚实的行业评估报告。Anthropic等于承认:代理在开放网络里跑,行为不可控到连自己内部测试都不敢开。别家还在大谈代理落地元年,Anthropic用一纸内部通知戳破泡沫——prompt注入、越权操作这些风险目前没有工业级解法。关网是负责任,但也说明代理离真正可靠还很远,行业叙事跑在能力前面太多了。

本文由本站自动聚合,以下为原始来源:前往 TechCrunch 阅读全文 →