腾讯研究用 Gist Token 压缩文档重排
热点事件持续更新
腾讯研究用 Gist Token 压缩文档重排
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
腾讯团队在 GistRank 论文中提出并研究一种面向大语言模型列表式文档重排的软压缩方案:把每个候选段落压缩为4个可学习的 gist token,再由模型基于短提示完成重排。团队通过三阶段训练,使压缩表示依次具备忠实表达、判别比较和列表排序能力;论文报告称,该方法的重排质量接近全文本重排,同时可降低随候选数量和文本长度线性增长的推理成本。
AI 根据报道生成 · 3 小时前更新
最新进展10月30日 16:06
腾讯 GistRank 研究用 4 个 gist token 压缩候选文档并完成 LLM 重排报道时间线
沿着报道,了解事件的不同侧面。
10月30日
- AGI Hunt腾讯 GistRank 研究用 4 个 gist token 压缩候选文档并完成 LLM 重排
腾讯团队在 GistRank 论文中提出软压缩重排方案,将每个候选段落压缩为 4 个可学习的 gist token,使 LLM 可基于短提示词完成列表式重排。研究分析了原生 gist 表示难以支持排序的原因,并通过三阶段训练注入忠实表示、判别性比较和列表排序能力,质量接近全文本重排,同时降低随候选数量和长度线性增长的推理成本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。