跳到正文
AGI Hunt· _reachsumit·· 57 分钟前AI 评分41

腾讯 LatentRec 框架:将推理期思维链改为训练期监督,延迟降低 18.3 倍

腾讯 LatentRec:推理期思维链换成训练期监督,延迟降 18.3 倍

AI 导读

腾讯提出 LatentRec 框架,将推荐任务的推理期 CoT 替换为训练期逐步监督,推理时无需生成推理产物,延迟降低 18.3 倍。框架包含 2.5M 参数连续思维模块、Soft Token Selection 和逐步推理损失 PRL,在三个 Amazon 基准上较 CoT 蒸馏基线 HR@10 相对提升 4.0–5.0%,且连续思维模块部署时可丢弃。

来源:AGI Hunt · agihunt.info