AGI Hunt· gnukeith·· 3 小时前AI 评分51
DeepSeek V4.1 Flash 跑 1M 上下文内存不到 0.9GB,Llama 3.3 70B 需 320GB
DeepSeek V4.1 Flash 跑 1M 上下文内存不到 0.9GB,Llama 70B 需 320GB
AI 导读
开发者 gnukeith 认为 DeepSeek V4.1 Flash 的工程表现被低估,其 KV Cache 压缩显著降低了长上下文推理的内存门槛。按文中数据,同为 1M token 上下文,DeepSeek V4.1 Flash 占用不到 0.9GB 内存,Llama 3.3 70B 约需 320GB,Qwen 3 8B 约需 144GB。
来源:AGI Hunt · agihunt.info