AGI Hunt· _reachsumit·· 2 小时前AI 评分40
SLIDE 蒸馏框架让生成式检索通过一次贪心解码生成完整 Top-K 排序列表
SLIDE 蒸馏框架让生成式检索一次贪心解码生成完整 Top-K 排序列表
AI 导读
SLIDE 将离线搜索与在线列表生成解耦:教师模型通过离线 item 级 beam search 检索候选,并按 beam 分数顺序拼接 Semantic ID(SID)形成列表级蒸馏目标。学生模型据此在单次贪心解码中生成完整 Top-K 列表,同时实现教师模型 scaling 的解耦。
来源:AGI Hunt · agihunt.info