Beam 501B量化后适配双MI300X
热点事件持续更新
Beam 501B量化后适配双MI300X
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
社区开发者将 Reflection AI 的 Beam 501B 量化为 MXFP4,并修复 vLLM 的 ROCm 路径,使完整模型可在 2 块 AMD MI300X 上运行 100 万 token 全上下文。此次部署面向完整模型,并非仅开放量化专家权重供测试;相关权重、脚本和评测也已托管在 Hugging Face。 量化后,专家权重从 1,003GB 压缩至 278GB;相比之下,官方 FP8 版本为 506GB,需要 4 块 MI300X。
AI 根据报道生成 · 55 分钟前更新
最新进展10月29日 14:07
Reflection AI Beam 501B 实现 MXFP4 量化与 1M 上下文部署报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- AGI HuntReflection AI Beam 501B 实现 MXFP4 量化与 1M 上下文部署
社区将 Reflection AI 的 Beam 501B 量化为 MXFP4,并修复 vLLM 的 ROCm 路径,使完整模型在 2× AMD MI300X 上跑通 1M token 全上下文。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。