跳到正文
热点事件持续更新

Meta论文称RL后训练存在“锐化税”

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Meta Superintelligence Labs联合威斯康星大学、纽约大学和斯坦福大学发表论文《Sharpening Tax in Post-Training》,称强化学习后训练会提高模型首次解题成功率,却可能缩小多次尝试时的解题覆盖面。 团队在3个智能体基准上测试14对基础模型与后训练模型,每项任务最多尝试128次。WebShop实验中,gemma-4-31B基础模型可解决85%的任务,后训练版仅解决56%;42组模型与基准组合中有36组出现论文所称的“锐化税”。这表明后训练模型可能更擅长靠首次尝试答对,却减少了通过反复尝试解决更多题目的能力。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. AGI Hunt
    Meta 等机构论文指出 RL 后训练提升首次成功率但收窄解题覆盖面

    Meta Superintelligence Labs 联合威斯康星大学、NYU 和斯坦福发布《Sharpening Tax in Post-Training》,指出 RL 后训练提升 pass@1 的同时可能降低 pass@K。

  2. AGI Hunt
    Meta 论文提出「锐化税」:RL 后训练并未教会模型新技能

    Meta 联合威斯康星、NYU、斯坦福等机构发布 arXiv 论文《Sharpening Tax in Post-Training》,提出 RL 后训练存在「锐化税」。该过程可提升模型首次尝试的成功率,却会收窄解题覆盖面,使其在多次尝试下的整体表现下降,模型因此变得更「锋利」但牺牲广度。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。