AGI Hunt· BlancheMinerva·· 3 小时前AI 评分47
博客复盘:OLMo 3 的「评测意识」言行大多抄自 SFT 训练数据
博客复盘:OLMo 3 的「评测意识」言行大多抄自 SFT 训练数据
AI 导读
博主 yooniel 在首篇博客中复盘 OLMo 3 的言语化评测意识(VEA),发现相关言行大多从 SFT 训练数据中原样复制。这些输出无法可靠反映模型真实的评测感知,也不能直接证明其行为泛化。BlancheMinerva 补充指出,微调泛化需要充分的表面形式变化,否则模型可能把呈现格式误当作影响输出的因果因素。
来源:AGI Hunt · agihunt.info