跳到正文
AGI Hunt· irinarish·· 3 小时前AI 评分48

CATCH 对抗训练:仅约 200 例样本让大语言模型学会可迁移的诚实行为

CATCH 对抗训练:仅约 200 例样本让 LLM 学会可迁移的诚实行为

AI 导读

arXiv 论文提出 CATCH(Continuous Adversarial Training for Consistent Honesty)持续对抗训练,仅用约 200 个自报告场景构建的目标,使大语言模型学会可迁移的诚实行为。

来源:AGI Hunt · agihunt.info