Kimi K3.1 Pro获TPU分布式推理支持
热点事件持续更新
Kimi K3.1 Pro获TPU分布式推理支持
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Google与Inferact（vLLM）、RadixArk（SGLang）合作，为月之暗面Kimi K3.1 Pro提供TPU v7x Day-0分布式推理支持，vLLM团队宣布llm-d方案已可用。 由于模型权重超过单机HBM容量，该部署需要通过多节点张量并行与专家并行运行，核心变化是Kimi K3.1 Pro获得了面向TPU v7x的现成分布式推理路径。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 06:26
llm-d 为 Kimi K3.1 Pro 提供 TPU v7x Day-0 分布式推理支持报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- AGI Huntllm-d 为 Kimi K3.1 Pro 提供 TPU v7x Day-0 分布式推理支持
Google 与 Inferact（vLLM）、RadixArk（SGLang）为月之暗面 Kimi K3.1 Pro 提供 TPU v7x Day-0 分布式推理支持，vLLM 团队宣布 llm-d 方案已可用。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。