跳到正文
AGI Hunt· _reachsumit·· 2 小时前AI 评分31

Jev 优选 ICL 示例并蒸馏为轻量 MLP,加速示例检索

用决策型 LM 优选 ICL 示例,蒸馏成轻量 MLP 提速检索

AI 导读

研究以决策导向语言模型 Jev 评估候选示例对查询的效用,改进 in-context learning 示例检索,直接使用 Jev 可提升检索质量。面向大规模检索时每个候选都需额外推理的瓶颈,作者将效用估计能力蒸馏进轻量 MLP,以高效排序示例并保持有竞争力的检索性能。

来源:AGI Hunt · agihunt.info