跳到正文
AGI Hunt· Writer·· 3 小时前AI 评分44

Writer 发布多层索引器论文:加速 DeepSeek 稀疏注意力解码

Writer 论文:多层索引器让 DeepSeek 稀疏注意力解码提速

AI 导读

Writer AI Research 发布 Multi-layer Indexer(MLI)论文,用多层索引复用加速 DeepSeek 稀疏注意力解码。MLI 复用相邻层选择的 top-k=2048 token,使 indexer 扫描与本层注意力并发执行,无需重训即可部署,并在保持精度的同时提升长上下文解码吞吐。

来源:AGI Hunt · agihunt.info