跳到正文
热点事件持续更新

ISTA DASLab开源763B模型压缩版

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

ISTA DASLab 发布并开源 DeepSeek-V4.1-Flash-1017 Coder 压缩版 GSQ-RCO,通过将每层路由专家从384个剪至192个,并把 Transformer 权重从138.2 GB降至72.1 GB。按原模型规模计算约合1.05 bit/参数,但保留的280.1B参数平均仍为2.06 bit,并非所有权重均压至1 bit以下。 该版本在 LiveCodeBench v6 和 SWE-bench Verified 上分别取得88.57和77.00,约为原模型的98.7%和94.8%,长程智能体任务损失更明显。其共享 Engram 文件和视觉投影器沿用未剪枝版,目前可在 llama.cpp b11870+ 和 Strata 上运行,GSQ/RCO论文与代码也已开放。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. AGI Hunt
    ISTA DASLab 发布 DeepSeek-V4.1-Flash-1017 Coder 1 比特压缩版

    ISTA DASLab 发布 DeepSeek-V4.1-Flash-1017 Coder 压缩版 GSQ-RCO,将原模型每层 384 个路由专家剪至 192 个,Transformer 权重从 138.2 GB 降至 72.1 GB。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。