跳到正文
AGI Hunt· Code_MasterCody·· 3 小时前AI 评分44

TKintegers:平衡三进制 K5 权重推理实测吞吐超 FP8 三倍

平衡三进制 K5 权重推理实测吞吐超 FP8 三倍

AI 导读

开发者发布 TKintegers,提供基于平衡三进制的权重表示、转换器、GPU 推理实现、完整仓库与演示视频。在 NVIDIA L4 上实测 Qwen2.5-0.5B-Instruct,K5 方案吞吐量达到 TorchAO FP8 的三倍以上,展示非常规数值表示用于推理加速的潜力。

来源:AGI Hunt · agihunt.info