跳到正文
AGI Hunt· scaling01·· 2 小时前AI 评分47

Nvidia 发布循环架构模型 Dory1-4B:36 层复用,循环 4 次逼近 9B 模型水平

AI 导读

Nvidia 数日前发布循环式 LLM Dory1-4B,采用 8 个输入层、20 层循环块和 8 个输出层。AA v4.3.2 得分随循环次数由 k=1 的 13.8 升至 k=4 的 18.4,超过 Qwen3.5-9B 的 12.53,逼近 Muse-Glimmer-30B 的 19.94。

来源:AGI Hunt · agihunt.info