跳到正文
AGI Hunt· arpit_bhayani·· 3 小时前AI 评分54

自蒸馏:同一模型充当教师生成更丰富的训练信号

什么是自蒸馏:同一模型身兼师生,无需更贵教师模型的训练法

AI 导读

自蒸馏让教师和学生使用同一模型,通过向教师副本提供标准答案、失败测试或编译器错误等额外信息,再训练学生逐 token 匹配教师输出。这种方法无需更大更贵的外部教师,但奖励若偏向直接给出答案,可能削弱模型面对陌生问题时的验证行为。

来源:AGI Hunt · agihunt.info