语言模型稀疏 RL 微调新论文：按梯度范数排序注意力头，效果媲美全量训练

一篇新论文提出按梯度范数对注意力头排序，仅微调高排名头，即可实现与全量微调基线相当的稀疏 RL 微调效果。数学、指令遵循和编码任务实验显示，高排名头持续优于低排名头；按任务划分注意力头还能减少跨任务干扰并保留旧能力。