gnukeith公开DeepSeek自建推理服务细节

开发者 gnukeith 公开了自建 DeepSeek 推理服务的工程细节：其运行的 DeepSeek V4.1 Flash 默认提供 512K 上下文，最大可调至 1M，KV Cache 按需分配；系统硬预留 3GB 内存，以降低过载导致崩溃的风险。 该服务仅服务于 gnukeith 自身的使用场景，因此他只在切换模型或确有需要时更新引擎，以保持精简，不为极端小众场景额外增加负担。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。