跳到正文
热点事件持续更新

腾讯提出潜推理推荐框架LatentRec

1 篇报道1 个报道来源45 分钟前更新

先了解这件事

AI 综述

腾讯提出 LatentRec 框架,将大语言模型推荐系统原本在推理时生成的文字思维链,改为训练阶段逐步监督,使推荐时无需生成中间推理产物。论文实验称,其推理延迟降低18.3倍,在三个 Amazon 数据集上,相比思维链蒸馏基线,HR@10 相对提升4.0%—5.0%。 该框架包含250万参数的连续思维模块、Soft Token Selection 和逐步推理损失 PRL;其中连续思维模块部署时可以丢弃,不增加线上推理负担。

AI 根据报道生成 · 24 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. AGI Hunt
    腾讯 LatentRec 框架:将推理期思维链改为训练期监督,延迟降低 18.3 倍

    腾讯提出 LatentRec 框架,将推荐任务的推理期 CoT 替换为训练期逐步监督,推理时无需生成推理产物,延迟降低 18.3 倍。框架包含 2.5M 参数连续思维模块、Soft Token Selection 和逐步推理损失 PRL,在三个 Amazon 基准上较 CoT 蒸馏基线 HR@10 相对提升 4.0–5.0%,且连续思维模块部署时可丢弃。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。