跳到正文
AGI Hunt· Illustrious_Row_9971·· 2 小时前AI 评分65

英伟达30B语音转录LLM经零重训剪枝从67.5GB降至10GB

零重训把英伟达30B语音LLM从67.5GB剪到10GB,WER仅5.16%

AI 导读

英伟达30B语音转录LLM通过结构化剪枝,无需重训便从67.5GB压缩至10GB。剪枝后转录WER为5.16%,原模型为4.12%,压缩后模型已上传至Hugging Face仓库akhaliq/nemotron-3.5-transcribe-mini-64e。

来源:AGI Hunt · agihunt.info