跳到正文
AGI Hunt· jcrwhittington·· 3 小时前AI 评分58

Prefrontal 开源 LSA 稀疏注意力,10M token prefill 最高提速 72.4 倍

Prefrontal 开源 LSA 稀疏注意力:10M token prefill 提速最高 72.4 倍

AI 导读

Prefrontal AI 团队与 NVIDIA、Nebius 合作发布并开源 Latent Sparse Attention(LSA),通过在潜空间按语义聚类 keys,减少超长上下文注意力的检索开销。

来源:AGI Hunt · agihunt.info