The Decoder· Matthias Bastian·· 18 小时前AI 评分74
DeepSeek 开源 V4.1-Flash 推理框架 DeepInfer
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
AI 导读
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer，用于快速规模化运行 V4.1-Flash。DeepInfer 基于 vLLM，加入优化计算内核、多芯片分布式处理和更快的文本生成技术，DeepSeek 还将同步开源后续模型代码，并发布复现官方 API token 处理方式的 deepseek-recipe。
来源：The Decoder · the-decoder.com