跳到正文
AGI Hunt· davidbau·· 3 小时前AI 评分39

研究发现负对数几率损失显著提升语言模型数据归因效果

AI 导读

David Bau 团队等人在 arXiv 论文中提出 CATT 基准,用于评估训练数据归因方法。研究发现,将常用损失函数替换为负对数几率(neg log odds)损失,可全面提升语言模型训练数据归因效果,使模型输出所依赖训练数据的溯源更准确可靠。

来源:AGI Hunt · agihunt.info