跳到正文
AGI Hunt· SergioPaniego·· 4 小时前AI 评分68

Hugging Face TRL 支持 MOPD 多教师在线策略蒸馏

MOPD 成今年技术报告高频词:TRL 现已支持多教师在线策略蒸馏

AI 导读

Hugging Face TRL 正式支持 MOPD(多教师在线策略蒸馏),可在一次 RL 训练中融合数学、代码、指令跟随和工具使用等能力。训练流程包括通用 SFT、按领域训练专家教师,以及由专家教师逐 token 打分并通过 reverse KL 更新学生模型。

来源:AGI Hunt · agihunt.info