vLLM发布Kimi K3.1 Pro剪枝版
热点事件持续更新
vLLM发布Kimi K3.1 Pro剪枝版
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
vLLM在Hugging Face发布免校准的Kimi-K3.1-Pro-pruned75，并提供可复用转换代码。该版本将92层MoE每层路由专家从896个减至224个，覆盖参数量由2.8T降至约700–750B，模型体积由约1.5TB缩至约443–476GB。官方称其主要用于vLLM服务冒烟测试和少GPU环境评估，预期质量会大幅回退，不适合质量敏感场景。
AI 根据报道生成 · 1 小时前更新
最新进展11月6日 01:25
vLLM 发布 Kimi-K3.1-Pro-pruned75 专家剪枝版本报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- AGI HuntvLLM 发布 Kimi-K3.1-Pro-pruned75 专家剪枝版本
vLLM 在 Hugging Face 发布免校准的 Kimi-K3.1-Pro-pruned75，将每层 MoE 路由专家从 896 个减至 224 个，覆盖 92 层的参数量从 2.8T 降至约 700–750B，模型体积从约 1.5TB 缩至约 443–476GB。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。