AGI Hunt· NigaTroubles·· 2 小时前AI 评分71
NigaTroubles 开源 MiniMax H3 在 16GB RX 9070 XT 上的运行配置
在 16GB RX 9070 XT 上跑通 MiniMax H3,作者开源完整配置
AI 导读
NigaTroubles 分享了在 16GB AMD Radeon RX 9070 XT 和 32GB DDR5 内存上运行 MiniMax H3 的实践。作者将部分层 offload 到系统内存,以 BF16/量化方式让模型使用 16GB VRAM 与 32GB DDR5 运行,并把 RDNA 4 复现所需的启动参数和配置开源在 GitHub 仓库 minimax-h3-rdna4。
来源:AGI Hunt · agihunt.info