跳到正文
AGI Hunt· burkov·· 2 小时前AI 评分31

PACT:为扩散语言模型的中间草稿步骤提供有效训练信号

AI 导读

PACT 为扩散语言模型的强化学习训练提供更有效的中间步骤信号。该方法同时学习语言模型的响应策略与未完成答案的评分,以完整答案的奖励为锚点,使每个生成步骤的偏好变化与奖励变化相匹配。

来源:AGI Hunt · agihunt.info