SLQ量化版LFM3模型发布
热点事件持续更新
SLQ量化版LFM3模型发布
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Benjamin Marie 历时38小时、单张RTX 3060,利用ISTA的统计无损量化(SLQ)方法,从AtomicChat和LiquidAI发布的GGUF中搜索张量组合,制作并发布LFM3-1.7B-SLQ-GGUF。其1.588 GB最优配置取得97.74%的EAR@10,略高于原版97.52%,但他表示实际使用中的差异未必能被感知。 Marie仍在用RCO和GSQ方法继续精炼,部分checkpoint的EAR已超过98%,并计划推出1 GB版本。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:58
RTX 3060 跑 38 小时:SLQ 量化混合 GGUF 评测超越原版报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- AGI HuntRTX 3060 跑 38 小时:SLQ 量化混合 GGUF 评测超越原版
Benjamin Marie 用单张 RTX 3060 跑了 38 小时,基于 ISTA 的 Statistically-Lossless Quantization(SLQ)方法,从 AtomicChat 和 LiquidAI 发布的 GGUF 中搜索张量组合,产出 LFM3-1.7B-SLQ-GGUF 模型。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。