跳到正文
热点事件持续更新

Raon-1-mini完成hipfire原生移植

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

开发者 Queasy_Asparagus69 将 KRAFTON 的 Raon-1-mini-preview 移植为 hipfire 原生 MQ4 量化,并公开了可复现补丁和 kernel 文件。其在 AMD 7900 XT、ROCm 7.1 环境实测,hipfire 版 prefill 为 12.6 t/s,较官方 GGUF 的 2,055 t/s 慢约 200 倍,decode 也慢约 10 倍,但文件小 1.29 GB;20 GB 显存可支持最高 65K 上下文。 开发者建议直接使用 KRAFTON 的 llama.cpp 分支和官方 GGUF;开源仓库则可供社区继续做批量 prefill 等优化。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. AGI Hunt
    Raon-1-mini 原生移植实测与 hipfire 优化补丁

    开发者将 KRAFTON 的 Raon-1-mini-preview 移植为 hipfire 原生 MQ4 量化,并开源了可复现补丁与 kernel 文件。实测显示,hipfire 的 prefill 速度为 12.6 t/s,较官方 GGUF 的 2,055 t/s 慢约 200 倍,decode 也慢约 10 倍,但文件小 1.29 GB。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。