微软发布xPRT跨段落检索预训练方法

微软研究团队提出无监督跨段落预训练方法xPRT，并称其在MTEB English v2的跨任务类型测试中平均超过五个最强基线3.2%，旨在提升稠密检索器的跨段落检索能力。 实验从同一公开无监督checkpoint继续预训练，保持语料、训练计划和流程一致。微软称，许多基线方法在持续预训练下出现性能回退，而xPRT相对初始checkpoint增益最大；该方法可减少对标注数据的依赖，为检索增强生成和搜索系统提供训练路径。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。