肖涵开源去审查版GCP部署方案

Jina AI创始人肖涵开源了DeepSeek-V4.1-Flash-1017-abliterated的GCP部署方案，可在4张NVIDIA RTX PRO 6000上运行。方案采用FP8量化、LiL vLLM与DSpark，支持1M上下文、视觉和工具调用，并包含抢占式实例救援机制。 据肖涵发布的方案，单流速度为166–211 tok/s，8并发时为722 tok/s；这些性能数据属于方案方公布的结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。