产业观察
Fireworks AI发布Ember-1:后训练版Kimi K3,token用量减少约40%
原标题: Fireworks AI发布Ember-1:后训练版Kimi K3,token用量减少约40%
📋总体概括
Fireworks AI发布了Ember-1,一款基于Kimi K3做后训练优化的模型。与降低推理力度不同,它学会了用更短的推理链完成任务:生产环境A/B测试显示,每任务输出token从49.3K降至29.9K,减少约40%,而得分基本不变。Ember-1现以Research Preview形式仅通过API提供,定价与Kimi K3相同。这意味着在不牺牲质量的前提下直接压缩推理成本,为大规模部署大模型推理的企业提供了降本新路径。
⚡关键信息
- ▸Ember-1是Fireworks AI基于Kimi K3后训练的模型,核心思路是让模型生成更短的推理过程而非降低推理力度
- ▸生产环境A/B测试中,每任务输出token从49.3K降至29.9K,减少约40%
- ▸token用量大幅下降的同时,模型得分基本保持不变
- ▸Ember-1目前以API-only的Research Preview形式提供,定价与Kimi K3一致
🔥犀利点评
40%的token削减且分数不降,这才是真正面向生产的优化——比起各家卷基准分数,直接砍推理链长度等于把钱从账单里省出来。Fireworks自己卖推理服务却教你少烧token,这种「帮你省钱」的姿态反而是最硬的商业护城河。问题在于:短推理链在复杂任务上的天花板迟早会暴露,40%这个数字大概率在简单任务上最好看。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 marktechpost.com 阅读全文 →