AGI Hunt· pmttyji·· 3 小时前AI 评分46
LatentLoop 论文：非对称算力分配让循环 MoE 节省 19% 计算
LatentLoop 论文：非对称算力分配让循环 MoE 省 19% 计算
AI 导读
LatentLoop 论文提出面向循环 MoE 的非对称计算分配，通过压缩第一次访问并保留第二次访问的全分辨率，将节省的算力用于更大的 hidden size。
来源：AGI Hunt · agihunt.info
LatentLoop 论文：非对称算力分配让循环 MoE 节省 19% 计算