JSSA 稀疏注意力：128K 上下文解码吞吐最高提升 6.43 倍

论文提出 JSSA 稀疏注意力，通过学习共享低维 query–key 子空间缓解长上下文 LLM 的 KV-cache 访存瓶颈。该方案免训练即可达到模型原生 DSA 的推理准确率，在 NVIDIA B200 上实现 128K 上下文解码吞吐最高 6.43×，并在 700B 规模下达到其 96–99% 吞吐，代码开源于 GitHub，论文见 arXiv。