VFold论文以跨层对称性压缩value cache
热点事件持续更新
VFold论文以跨层对称性压缩value cache
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Johns Hopkins 与 George Mason 团队发布 VFold 论文，提出跨层合并 value cache 的压缩方法。论文称，该方法可将 value cache 内存占用减半，同时保持超过 98% 的全缓存性能。 VFold 采用对称性感知的跨层合并策略，无需修改大语言模型架构，并可与高比率量化或 key cache 剪枝叠加，为内存受限场景扩展上下文窗口提供方案。
AI 根据报道生成 · 1 小时前更新
最新进展11月5日 04:06
VFold 论文：跨层对称性压缩 value cache，节省一半内存并保持超过 98% 性能报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- AGI HuntVFold 论文：跨层对称性压缩 value cache，节省一半内存并保持超过 98% 性能
Johns Hopkins 与 George Mason 团队发布 VFold 论文，提出对称感知的跨层 value cache 合并策略，将 value cache 压缩一半并保持超过 98% 的全缓存性能。该方法可与高比率量化或 key cache 剪枝叠加，无需修改 LLM 架构，在降低解码性能损失与架构开销的同时，为内存受限场景扩展上下文窗口提供方向。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。