产业观察

Perplexity与NVIDIA研究人员推出JOLT:一种师生联合强化学习方法

原标题: Perplexity与NVIDIA研究人员推出JOLT:一种师生联合强化学习方法

marktechpost.com·2026/10/22 04:56:31🔗 原文

📋总体概括

Perplexity与NVIDIA的研究人员联合推出JOLT,一种后训练阶段的强化学习方法。其核心创新在于让同一个模型同时扮演教师与学生两种角色,进行联合的在线策略学习,从而提升训练效率。在MATH数学基准测试中,JOLT达到了与GRPO(Group Relative Policy Optimization)相当的准确率,但处理训练token的数量减少了6.5倍,意味着显著降低推理型大模型后训练阶段的算力与时间成本。该成果对当前以强化学习驱动推理能力的大模型训练范式提出了更高效的替代路径。

⚡关键信息

  • ▸Perplexity与NVIDIA联合发布JOLT,一种后训练强化学习方法
  • ▸JOLT的核心设计是一个模型同时充当教师与学生,实现联合在线策略学习
  • ▸在MATH基准上,JOLT准确率与GRPO持平
  • ▸训练token消耗仅为GRPO的约1/6.5,训练效率大幅提升
  • ▸JOLT属于后训练阶段方法,聚焦降低推理模型RL训练成本

🔥犀利点评

大模型推理能力的军备竞赛正卡在RL后训练的天价算力账单上,JOLT瞄准的正是这个命门:教师学生合一砍掉独立教师模型的采样开销,6.5倍的token效率提升若能在更大模型和更多任务上复现,就不是论文技巧而是工程范式级改进。但MATH一个基准说服力有限,泛化性和稳定性才是真正的试金石。

本文由本站自动聚合,以下为原始来源:前往 marktechpost.com 阅读全文 →