产业观察
Perplexity与NVIDIA研究者推出JOLT:一种师生合一的联合强化学习方法
原标题: Perplexity与NVIDIA研究者推出JOLT:一种师生合一的联合强化学习方法
📋总体概括
Perplexity与NVIDIA的研究团队联合推出JOLT,一种后训练强化学习方法。该方法让同一个模型同时充当教师与学生进行联合在策略学习训练。在MATH数学基准测试中,JOLT在精度上与主流方法GRPO持平,但处理训练token的数量仅为后者的约六分之一半(6.5倍效率提升),显著降低了强化学习后训练的算力与数据成本,为大模型推理能力的低成本对齐提供了新路径。
⚡关键信息
- ▸JOLT由Perplexity与NVIDIA研究者共同提出,属于模型后训练阶段的强化学习方法。
- ▸核心创新是教师与学生角色合一,由同一模型联合完成教学与学习过程。
- ▸在MATH基准上,JOLT取得与GRPO相当的准确率。
- ▸达到同等精度时,JOLT处理的训练token数量比GRPO少6.5倍,训练效率大幅提升。
- ▸该方法聚焦降低RL后训练的算力开销,对推理模型训练成本优化有实际意义。
🔥犀利点评
GRPO一统RL后训练江湖太久,学界早就在等效率杀手出现。JOLT的6.5倍token节省如果能在更大模型和更多任务上复现,才是真颠覆——毕竟MATH一个基准说明不了全部。但方向本身很对:RL后训练的算力浪费是行业公开的秘密,谁先把它打下来,谁的训练成本曲线就先弯下来。Perplexity拉上NVIDIA发论文,既是技术叙事也是算力联盟的站位。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 marktechpost.com 阅读全文 →