跳到正文
AGI Hunt· scaling01·· 3 小时前AI 评分37

scaling01 实测 Dory 1.0 4B 循环 Transformer:推理分从 42.9 升至 52.4

scaling01 实测「循环 transformer」:4B 模型推理分 4 轮从 42.9 升至 52.4

AI 导读

scaling01 独立复现研究中的循环 Transformer 方法,用 Dory 1.0 4B 在 NCRI/NCKI 基准上进行 1-4 轮循环测试。推理分从 1 轮的 42.9 升至 4 轮的 52.4,约提升 19 个百分点,leave-one-out 分数保持平稳。

来源:AGI Hunt · agihunt.info