AlpinDale提交MXFP4专家尺度无损压缩PR
热点事件持续更新
AlpinDale提交MXFP4专家尺度无损压缩PR
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
AlpinDale向dphnAI/sonar提交PR，为Kimi-K3.1-Pro-NF12实现MXFP4专家尺度无损压缩。在8×B300、131K输入/2K输出且无投机解码的测试中，单卡模型显存由约193.80 GiB降至187.52 GiB，八卡合计节省50.2 GiB，每卡可用KV显存增加12.5%。 压缩代价是输出吞吐下降2.3%–3.3%，每token延迟增加约3.6%–4.8%。
AI 根据报道生成 · 1 小时前更新
最新进展11月12日 13:35
Kimi-K3.1-Pro-NF12实现MXFP4 expert scales无损压缩报道时间线
沿着报道，了解事件的不同侧面。
11月12日
- AGI HuntKimi-K3.1-Pro-NF12实现MXFP4 expert scales无损压缩
AlpinDale向dphnAI/sonar提交PR，为Kimi-K3.1-Pro-NF12实现MXFP4 expert scales无损压缩。在8×B300、131K输入/2K输出且无投机解码的测试中，八卡共节省50.2 GiB内存，单卡可用KV显存增加12.5%。代价是输出吞吐下降2.3%–3.3%，每token延迟增加约3.6%–4.8%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。