跳到正文
AGI Hunt· tencent·· 51 分钟前AI 评分46

腾讯优图发布 LightningMoBA:长上下文注意力端到端提速 1.2–1.6 倍

腾讯优图发布 LightningMoBA:长上下文注意力端到端提速 1.2-1.6 倍

AI 导读

腾讯优图实验室发布 LightningMoBA,通过动态路由、KV 所有权与运行时流水线三项机制协同设计 MoBA,使长上下文注意力端到端生成提速 1.20–1.60 倍。

来源:AGI Hunt · agihunt.info