AGI Hunt· Code_MasterCody·· 3 小时前AI 评分44
TKintegers:平衡三进制 K5 权重推理实测吞吐超 FP8 三倍
平衡三进制 K5 权重推理实测吞吐超 FP8 三倍
AI 导读
开发者发布 TKintegers,提供基于平衡三进制的权重表示、转换器、GPU 推理实现、完整仓库与演示视频。在 NVIDIA L4 上实测 Qwen2.5-0.5B-Instruct,K5 方案吞吐量达到 TorchAO FP8 的三倍以上,展示非常规数值表示用于推理加速的潜力。
来源:AGI Hunt · agihunt.info