跳到正文
AGI Hunt· Zikai Zhou·· 2 小时前AI 评分31

CREDIT:反事实训练让语言模型更准确识别信息来源

反事实训练让语言模型更准确识别信息来源

AI 导读

Hugging Face 上发布的一篇论文提出 CREDIT 方法,通过反事实训练提升语言模型对自身输出所依据外部信息的自我归因能力。方法构造“若该来源不存在则输出应改变”的对照样本进行训练,从而减少模型错误承认无影响力来源的虚假归因。

来源:AGI Hunt · agihunt.info