产业观察
Google Research推出Retrieve-for-Train(R4T):基于RL编译的扩散检索器,查询扇出速度提升12倍至20倍
原标题: Google Research Introduces Retrieve-for-Train (R4T): An RL-Compiled Diffusion Retriever for 12× to 20× Faster Query Fan-Out
📋总体概括
Google Research提出R4T框架,用于搜索中的查询扇出(query fan-out)场景。该框架先用强化学习一次性训练扇出语言模型,奖励信号涵盖真实性、多样性与对齐性;随后由该模型合成训练数据,训练一个仅53.9M参数的扩散检索器。扩散检索器可在单次生成中产出全部检索方向,速度较自回归扇出方式提升12倍至20倍。目前Google尚未开源任何代码或模型权重,成果仍停留在论文与博客阶段。
⚡关键信息
- ▸Google Research发布Retrieve-for-Train(R4T)搜索框架,目标是生成连贯且多样的检索结果集
- ▸先用RL训练扇出语言模型,奖励维度包括真实性、多样性和对齐性,只需训练一次
- ▸该模型再合成数据训练一个53.9M参数的扩散检索器,参数规模很小
- ▸扩散检索器单次生成所有检索方向,比自回归扇出快12倍到20倍
- ▸代码与模型权重均未发布,外界暂无法验证效果
🔥犀利点评
扩散模型做检索方向生成,12到20倍的加速确实诱人,53.9M的小参数量也很有工程味道。但问题在于:没有代码、没有权重、没有可复现基准,一切数字都只是Google的自说自话。RL训练出的教师模型质量直接决定扩散检索器上限,这一环的评测细节才是关键,目前却语焉不详。在RAG竞争白热化的当下,这类PPT式发布更像技术卡位而非真交付,看看就好。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 marktechpost.com 阅读全文 →