跳到正文
热点事件持续更新

Beam 501B量化后适配双MI300X

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

社区开发者将 Reflection AI 的 Beam 501B 量化为 MXFP4,并修复 vLLM 的 ROCm 路径,使完整模型可在 2 块 AMD MI300X 上运行 100 万 token 全上下文。此次部署面向完整模型,并非仅开放量化专家权重供测试;相关权重、脚本和评测也已托管在 Hugging Face。 量化后,专家权重从 1,003GB 压缩至 278GB;相比之下,官方 FP8 版本为 506GB,需要 4 块 MI300X。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. AGI Hunt
    Reflection AI Beam 501B 实现 MXFP4 量化与 1M 上下文部署

    社区将 Reflection AI 的 Beam 501B 量化为 MXFP4,并修复 vLLM 的 ROCm 路径,使完整模型在 2× AMD MI300X 上跑通 1M token 全上下文。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。