AGI Hunt· lmoroney·· 3 小时前AI 评分47
NVIDIA Parakeet-TDT-0.6B-v2 语音模型极限量化：权重从 2.4GB 降至 181MB，WER 仅升 0.4 个点
权重压到 -1/0/+1:语音模型从 2.4GB 瘦身到 181MB,WER 仅升 0.4 个点
AI 导读
NVIDIA Parakeet-TDT-0.6B-v2 编码器通过将约 98% 参数约束为 -1、0、+1 三值，权重文件由 2,472 MB 降至 180.8 MB。量化感知训练与原模型蒸馏使七套测试集平均词错率由 6.45% 微升至 6.84%，训练使用约 33,000 小时音频、25 万步，单张 RTX 5090 用时 69.3 小时。
来源：AGI Hunt · agihunt.info