跳到正文
AGI Hunt· jiqizhixin·· 3 小时前AI 评分38

LoopVL 用 1B 参数循环复用 32 层,5/8 基准胜 4B 模型

AI 导读

人大、百度、上海交大、清华等团队推出 LoopVL,约 1B 语言骨干以两层嵌套循环将 32 个独特 Transformer 层复用为 128 次层调用。它在共享 0.14T 训练 token 预算下,于 8 个受控基准中的 5 个胜过约 4B 深版和宽版基线,RealWorldQA 达 70.98,MathVision 达 38.49。

来源:AGI Hunt · agihunt.info