腾讯提出潜推理推荐框架LatentRec
热点事件持续更新
腾讯提出潜推理推荐框架LatentRec
1 篇报道1 个报道来源45 分钟前更新
先了解这件事
AI 综述
腾讯提出 LatentRec 框架,将大语言模型推荐系统原本在推理时生成的文字思维链,改为训练阶段逐步监督,使推荐时无需生成中间推理产物。论文实验称,其推理延迟降低18.3倍,在三个 Amazon 数据集上,相比思维链蒸馏基线,HR@10 相对提升4.0%—5.0%。 该框架包含250万参数的连续思维模块、Soft Token Selection 和逐步推理损失 PRL;其中连续思维模块部署时可以丢弃,不增加线上推理负担。
AI 根据报道生成 · 24 分钟前更新
最新进展11月6日 14:12
腾讯 LatentRec 框架:将推理期思维链改为训练期监督,延迟降低 18.3 倍报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- AGI Hunt腾讯 LatentRec 框架:将推理期思维链改为训练期监督,延迟降低 18.3 倍
腾讯提出 LatentRec 框架,将推荐任务的推理期 CoT 替换为训练期逐步监督,推理时无需生成推理产物,延迟降低 18.3 倍。框架包含 2.5M 参数连续思维模块、Soft Token Selection 和逐步推理损失 PRL,在三个 Amazon 基准上较 CoT 蒸馏基线 HR@10 相对提升 4.0–5.0%,且连续思维模块部署时可丢弃。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。