H Company Releases NeoMME: A Family of 260M and 800M Single-Tower Multimodal Encoders That Drop the Vision Tower and Causal Decoder

📋总体概括

H公司发布NeoMME多模态编码器家族，包含260M和800M两个规格，采用单塔双向Transformer架构，直接处理多语言文本token与32×32原始图像块，摒弃传统视觉塔和因果解码器。预训练采用掩码离散扩散目标，配备稠密检索和后期交互双检索头。在ViDoRe v3文档检索基准上，260M模型取得0.523 nDCG@10，索引压缩比达255倍，单张L40S索引吞吐量51.3页/秒，但作者也承认在纯文本检索上仍有差距。