研究发现推理模型“wait”标记源于训练数据
热点事件持续更新
研究发现推理模型“wait”标记源于训练数据
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
港科大、北京大学与华为诺亚方舟实验室研究发现，开放推理模型中的“wait”等话语标记主要继承自 mid-training 和监督微调（SFT）阶段的数据，并非强化学习（RL）发明。 研究团队通过追踪训练历史中的词频、位置、形态和用法，并注入错误进行测试，发现 zero-RL 几乎不产生这类标记；RL 虽能提升推理准确率，但并不依赖特定“wait”标记。
AI 根据报道生成 · 1 小时前更新
最新进展10月23日 12:17
港科大溯源发现：“wait”标记继承自训练数据而非 RL 发明报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- AGI Hunt港科大溯源发现：“wait”标记继承自训练数据而非 RL 发明
港科大、北大与华为诺亚方舟实验室追踪开放模型训练历史，发现 zero-RL 几乎不产生“wait”等话语标记。注入错误测试显示，这些标记主要继承自 mid-training/SFT 阶段的训练数据，而 RL 带来的推理准确率提升并不依赖特定标记。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。