跳到正文
热点事件持续更新

将推理建模为token空间路径优化

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

作者提出,推理模型优化的并非单条推理路径必然收敛到正确答案,而是在整体路径分布上提高抵达正确答案并通过验证集的成功概率。 在这一框架下,可验证奖励强化学习与拒绝采样微调被联系起来,用于解释更长的思维链、推理过程与真实思路不一致,以及奖励劫持等现象;这是作者对模型行为机制的解释。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. Hacker News front page
    推理模型究竟在优化什么目标?将推理视为 token 空间寻路

    作者认为,推理模型并未让单条推理路径收敛到正确答案,而是在整体路径分布上最大化抵达正确验证集的成功概率。文章进一步将带可验证奖励的 RL 与拒绝采样微调联系起来,解释更长思维链、推理过程不忠实及奖励劫持等现象。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。