跳到正文
AGI Hunt· teortaxesTex·· 3 小时前AI 评分58

DeepSeek 每 token KV 缓存两年降至 890 字节,开源闭源差距之辩

DeepSeek 每 token KV 缓存两年降至 890 字节,开源闭源差距之辩

AI 导读

作者认为,基准成绩无法准确衡量前沿差距,单位算力收益更能反映开源与闭源的追赶情况。DeepSeek 的每 token KV 缓存从 V1 的 389,120 字节降至 V4.1-Flash 的 890 字节,后者单 token 解码 FLOPs 在 4K 至 1024K 上下文间几乎恒定。作者同时承认,美国头部模型使用的绝对算力明显更大,能力差距确实存在。

来源:AGI Hunt · agihunt.info