TensorSharp 实测 Muse Spark 816B 在 10 张 A40 上运行：流水线并行 prefill 快 4.6 倍于张量并行

TensorSharp 作者用自研 .NET 开源 LLM 推理引擎，在 10 张 A40 上实测运行 Muse Spark 816B MoE，流水线并行 prefill 比张量并行快 4.6 倍。该模型激活 42B 参数、权重约 316 GiB，测试还与 llama.cpp 等方案进行了对比，为多卡运行超大 MoE 模型提供了可行路径。