AGI Hunt· jcrwhittington·· 3 小时前AI 评分58
Prefrontal 开源 LSA 稀疏注意力,10M token prefill 最高提速 72.4 倍
Prefrontal 开源 LSA 稀疏注意力:10M token prefill 提速最高 72.4 倍
AI 导读
Prefrontal AI 团队与 NVIDIA、Nebius 合作发布并开源 Latent Sparse Attention(LSA),通过在潜空间按语义聚类 keys,减少超长上下文注意力的检索开销。
来源:AGI Hunt · agihunt.info