投机解码改变长程智能体推理精度

清华 lhyTHU 团队与 MIT、Princeton、Northeastern 等机构发现，投机解码中的草稿模型接受策略会累积数值噪声，并在约30步后改变智能体输出分布，以随机方向影响推理准确率；其本身不改变目标模型验证的总体 token 分布。 研究团队通过对抗偏好训练草稿模型，让其在关键推理点“故意被拒”，促使推理重新验证并由目标模型以最低噪声采样。实验称，仅调整 deepseek-v4.1-flash-1017 和 GLM-5.3 分别0.06%和0.28%的托管参数，就在复杂智能体编码基准上显著提高端到端成功率，同时不改变目标模型及其输出分布。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。