AGI Hunt· UMCUtrecht·· 2 小时前AI 评分47
BYOD:用 LoRA 适配器把自回归语言模型低成本转成扩散模型
BYOD:用 LoRA 适配器把自回归语言模型低成本转成扩散模型
AI 导读
UM Utrecht 团队发布 BYOD(Build Your Own DLM),通过参数高效的 LoRA 适配器将自回归语言模型转换为扩散语言模型。该方法训练成本极低,可保留基座模型已有知识并支持并行生成,配图展示了 64 步去噪逐步解出被 MASK 的 token 过程。
来源:AGI Hunt · agihunt.info