AGI Hunt· Jebbyk1·· 2 小时前AI 评分68
RDNA3 定制 llama.cpp fork 让 RX 7900 XTX 推理 Qwen3.8-27B 达到约 100 tok/s
RDNA3 定制 llama.cpp fork 让 7900 XTX 推理速度翻倍至约 100 tok/s
AI 导读
作者使用社区针对 RDNA3 优化的 llama.cpp fork,在 RX 7900 XTX 上运行 Qwen3.8-27B Q4KM,推理速度达到 90-100 tok/s。
来源:AGI Hunt · agihunt.info