AGI Hunt· tencent·· 3 小时前AI 评分37
腾讯 LoCo 用局部偏好学习缩短模型推理,并在数学与代码任务上保持准确率
腾讯 LoCo 用局部偏好学习教会模型何时停止思考,推理大幅变短且不掉准确率
AI 导读
腾讯(微信 AI)与西安交大的论文提出 LoCo(Local Preference Learning),通过局部偏好学习让推理模型判断何时继续或结束思考。LoCo 从模型自身生成的 trace 中检测过度思考状态,冻结推理前缀并生成更短续写,再用 DPO 训练;在数学与代码任务上,输出长度大幅缩短且准确率保持甚至提升。
来源:AGI Hunt · agihunt.info