跳到正文
AGI Hunt· JessicaHullman·· 2 小时前AI 评分46

研究显示混合训练收益脆弱,仅训决策会跳过信念捷径

研究显示混合训练收益脆弱,仅训决策学会跳过信念捷径

AI 导读

研究团队发现,联合训练虽有助信念与决策两个组件,但½信念+½决策训练的收益更稳定,信念+对齐训练基本只在评测格式与训练一致时有效。仅决策训练虽能大幅降低总 regret,却几乎不改善信念,表明 LLM 可能学会跳过信念形成;强制模型先陈述信念后,大部分收益消失。实验覆盖合成、天气和临床三个域。

来源:AGI Hunt · agihunt.info