AGI Hunt· nasone32·· 2 小时前AI 评分40
Strata EXL3 AMD 版提速 10-20%,3bit 量化达到 4bit 质量
Strata EXL3 AMD 版提速 10-20%,3bit 量化跑出 4bit 质量
AI 导读
Reddit 用户 nasone32 更新 Strata EXL3 AMD fork,优化 HIP kernel 与内存管理,解码速度平均提升 10-20%,部分场景接近 24%。3.05 bpw 双卡 CODE 测试达 87.33 tok/s,4.05 bpw 单卡配合 CPU 辅助可达 55-60 tok/s,并实验性支持 MiMo V2.6 Flash。
来源:AGI Hunt · agihunt.info