跳到正文
AGI Hunt· ben_burtenshaw·· 2 小时前AI 评分65

Reflection AI Beam 501B 实现 MXFP4 量化与 1M 上下文部署

Reflection 将 Beam 501B 量化到 MXFP4,双 MI300X 跑满 1M 上下文

AI 导读

社区将 Reflection AI 的 Beam 501B 量化为 MXFP4,并修复 vLLM 的 ROCm 路径,使完整模型在 2× AMD MI300X 上跑通 1M token 全上下文。

来源:AGI Hunt · agihunt.info