AGI Hunt· gdm3000·· 2 小时前AI 评分49
元模型无需梯度为 Qwen3.5-2B 生成权重更新,75 项基准中 59 项提升
不跑梯度也能微调:元模型一段话秒写权重更新,75 项基准 59 项提升
AI 导读
Roi Cohen 等人训练的元模型可按任务描述,在单张小 GPU 上几秒内为 Qwen3.5-2B 生成无梯度权重更新。75 个公开基准中 59 项提升、8 项下降;ComVE 从 50.0 升至 91.1,GSM8K 最终答案口径从 5.7 升至 18.6。作者称这是将反向传播压缩进模型的早期尝试,仍有问题待解。
来源:AGI Hunt · agihunt.info