跳到正文
热点事件持续更新

Reddit 用户开源 libstrix,加速 AMD Strix Halo 长上下文预填充

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Reddit 用户 asfbrz96 开源了 libstrix,这是一套为 AMD Strix Halo(gfx1151 APU,Radeon 8060S,128GB 统一内存)编写的 HIP 内核,以 vLLM 插件形式接入,不需要 fork 或修改上游代码。其效果是长上下文预填充大幅提速:在 Qwen3.6-35B-A3B 上,256k 预填充时间从 7,568 秒降到 241 秒,约 31 倍。 插件通过 vLLM 标准插件系统加载,仅在 ROCm + gfx1151 环境下生效,每个内核只针对特定形状,形状不匹配时自动回退到 vLLM 原生内核;目前仅支持 gfx1151,需与 vLLM 所用的 torch、ROCm 版本一致编译。作者同时说明,部分数字存在偏大情况:MXFP4 版本因原基线走的是慢速模拟路径而显得提升夸张;Gemma-4-26B 的输出漂移较大,KLD 约 0.2。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. AGI Hunt
    Reddit 用户为 AMD Strix Halo 发布 vLLM 插件 libstrix,长上下文预填充最高提速 31 倍

    Reddit 用户 asfbrz96 开源 libstrix,通过 vLLM 插件为 AMD Strix Halo 提供专用 HIP 内核,无需 fork 或修改上游代码。Qwen3.6-35B-A3B 的 256k 预填充时间由 7,568 秒降至 241 秒,约提速 31 倍;插件目前仅支持 gfx1151,并要求兼容的 torch 与 ROCm 版本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。