跳到正文
热点事件持续更新

SLQ量化版LFM3模型发布

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Benjamin Marie 历时38小时、单张RTX 3060,利用ISTA的统计无损量化(SLQ)方法,从AtomicChat和LiquidAI发布的GGUF中搜索张量组合,制作并发布LFM3-1.7B-SLQ-GGUF。其1.588 GB最优配置取得97.74%的EAR@10,略高于原版97.52%,但他表示实际使用中的差异未必能被感知。 Marie仍在用RCO和GSQ方法继续精炼,部分checkpoint的EAR已超过98%,并计划推出1 GB版本。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. AGI Hunt
    RTX 3060 跑 38 小时:SLQ 量化混合 GGUF 评测超越原版

    Benjamin Marie 用单张 RTX 3060 跑了 38 小时,基于 ISTA 的 Statistically-Lossless Quantization(SLQ)方法,从 AtomicChat 和 LiquidAI 发布的 GGUF 中搜索张量组合,产出 LFM3-1.7B-SLQ-GGUF 模型。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。