AGI Hunt· Ofek Avivi·· 2 小时前AI 评分38
Technion 与 Ben-Gurion 大学提出 T²Quant 扩散语言模型量化方法
T²Quant:按任务与去噪步动态分配精度,量化扩散语言模型
AI 导读
Technion 与 Ben-Gurion 大学提出扩散语言模型(DLM)量化方法 T²Quant,按任务与去噪步动态分配激活精度。GSM8K、HumanEval、MMLU-Pro 等任务在 128 个去噪步中的精度需求曲线不同,且无需真值标签或任务专属评测指标即可预测,从而实现任务与时间感知的混合精度量化。
来源:AGI Hunt · agihunt.info