AGI Hunt· burkov·· 3 小时前AI 评分51
Rice University 论文 BellowsKV 通过相邻层共享实现 KV 缓存压缩
BellowsKV：相邻层共享 KV 缓存，13-14 倍压缩仍保 97-98% 精度
AI 导读
Rice University 论文 BellowsKV 提出让相邻层共享每个 token 的隐表示，再通过层特定投影读取各自的 K/V，以减少长上下文和多步 Agent 任务中的缓存占用。
来源：AGI Hunt · agihunt.info