AGI Hunt· ben_burtenshaw·· 2 小时前AI 评分65
Reflection AI Beam 501B 实现 MXFP4 量化与 1M 上下文部署
Reflection 将 Beam 501B 量化到 MXFP4,双 MI300X 跑满 1M 上下文
AI 导读
社区将 Reflection AI 的 Beam 501B 量化为 MXFP4,并修复 vLLM 的 ROCm 路径,使完整模型在 2× AMD MI300X 上跑通 1M token 全上下文。
来源:AGI Hunt · agihunt.info