AGI Hunt· fa6637·· 32 分钟前AI 评分49
MiniMax H3 量化实测拆解:50GB 模型如何运行于 12GB 显存
50GB 的 MiniMax H3 如何塞进 12GB 显存?量化实测拆解
AI 导读
Reddit 用户分享的 YouTube 实测展示,参数权重体积约 50GB 的 MiniMax H3 可通过量化等技术运行于仅 12GB 显存的消费级显卡。视频拆解了具体压缩方案与实际运行效果,为想在本地运行大参数开源模型的用户提供参考。
来源:AGI Hunt · agihunt.info