Parakeet三值量化将权重压缩逾九成
热点事件持续更新
Parakeet三值量化将权重压缩逾九成
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Laurence Moroney 分享了 NVIDIA Parakeet-TDT-0.6B-v2 的三值量化案例:编码器约98%的参数被约束为-1、0、+1,权重文件从2472MB降至180.8MB,七套测试集平均词错率由6.45%升至6.84%。 精度回补采用量化感知训练和原模型蒸馏,使用约3.3万小时音频训练25万步,在单张RTX 5090上耗时69.3小时。模型卡显示,未纳入训练的Common Voice测试集精度差距最大。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月25日
- AGI HuntNVIDIA Parakeet-TDT-0.6B-v2 语音模型极限量化:权重从 2.4GB 降至 181MB,WER 仅升 0.4 个点
NVIDIA Parakeet-TDT-0.6B-v2 编码器通过将约 98% 参数约束为 -1、0、+1 三值,权重文件由 2,472 MB 降至 180.8 MB。量化感知训练与原模型蒸馏使七套测试集平均词错率由 6.45% 微升至 6.84%,训练使用约 33,000 小时音频、25 万步,单张 RTX 5090 用时 69.3 小时。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。