Meta 推 DecisionRank:1.7B 重排模型超 27B 教师
热点事件持续更新
Meta 推 DecisionRank:1.7B 重排模型超 27B 教师
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Meta 团队发布 DecisionRank 论文,提出面向决策模型重排器的 item-space on-policy 蒸馏方法,用生成式教师的反馈直接监督学生的文档打分。论文称,1.7B 学生在 TREC DL19–23 上的表现超过其 27B 生成式教师;8B 版本在 TREC DL 和 BRIGHT 上分别比对应教师快 24.5 倍和 16.7 倍。 核心思路是把重排器从“在生成式模型内部推理”转为“由小模型独立打分排序”,因此速度提升与生成式教师的输出解耦,代价是排序效果依赖蒸馏质量。效果数据来自论文自身报告,适用对象为 TREC DL19–23、TREC DL 与 BRIGHT 这几个检索评测集。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:25
Meta 发布 DecisionRank 论文:1.7B 学生模型反超 27B 教师,快 24.5 倍报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- AGI HuntMeta 发布 DecisionRank 论文:1.7B 学生模型反超 27B 教师,快 24.5 倍
Meta 团队发布 DecisionRank 论文,提出面向决策模型重排器的 item-space on-policy 蒸馏方法,以生成式教师反馈直接监督学生文档分数。1.7B 模型在 TREC DL19–23 超过其 27B 生成式教师,8B 版本在 TREC DL 和 BRIGHT 上分别快 24.5 倍和 16.7 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。