跳到正文
AGI Hunt· UMCUtrecht·· 2 小时前AI 评分47

BYOD:用 LoRA 适配器把自回归语言模型低成本转成扩散模型

BYOD:用 LoRA 适配器把自回归语言模型低成本转成扩散模型

AI 导读

UM Utrecht 团队发布 BYOD(Build Your Own DLM),通过参数高效的 LoRA 适配器将自回归语言模型转换为扩散语言模型。该方法训练成本极低,可保留基座模型已有知识并支持并行生成,配图展示了 64 步去噪逐步解出被 MASK 的 token 过程。

来源:AGI Hunt · agihunt.info