跳到正文
AGI Hunt· _reachsumit·· 2 小时前AI 评分40

SLIDE 蒸馏框架让生成式检索通过一次贪心解码生成完整 Top-K 排序列表

SLIDE 蒸馏框架让生成式检索一次贪心解码生成完整 Top-K 排序列表

AI 导读

SLIDE 将离线搜索与在线列表生成解耦:教师模型通过离线 item 级 beam search 检索候选,并按 beam 分数顺序拼接 Semantic ID(SID)形成列表级蒸馏目标。学生模型据此在单次贪心解码中生成完整 Top-K 列表,同时实现教师模型 scaling 的解耦。

来源:AGI Hunt · agihunt.info