产业观察
AI智能体的token消耗达人类5倍,缓存提示爆发式增长,未来将达10倍
原标题: AI智能体的token消耗达人类5倍,缓存提示爆发式增长,未来将达10倍
📋总体概括
OpenRouter数据显示AI智能体的token消耗量已达人类用户的约5倍,且仍在快速增长:智能体用量今年2月超越人类,到8月已增长14倍。Futurum集团CEO Daniel Newman指出,随着缓存提示(cached prompts)爆发式增长,这一差距将扩大至10倍。这反映出AI应用正从人工对话转向自动化智能体任务,底层推理基础设施的负载结构正在根本性改变,对算力、缓存与成本优化提出新要求。
⚡关键信息
- ▸OpenRouter数据显示AI智能体的token消耗约为人类用户的5倍,未来将达10倍
- ▸智能体token用量今年2月首次超越人类用户,到8月已增长14倍
- ▸缓存提示(cached prompts)使用量爆发式增长,成为智能体高消耗的关键推手
- ▸数据来自Futurum集团CEO Daniel Newman对OpenRouter平台统计的分析
🔥犀利点评
5倍只是起点,10倍才是常态——智能体不需要睡觉也不需要理由,循环调用、自我反思、多轮规划,token烧起来毫无节制。缓存提示的爆发说明行业终于开始认真对待推理成本,但真正的压力会传导到算力供给和定价模型上。谁能在智能体经济中把单位token成本打下来,谁就掌握下一代云服务的入场券。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 Tom Hardware 2 阅读全文 →