论文展示大模型无梯度自改写权重
热点事件持续更新
论文展示大模型无梯度自改写权重
1 篇报道1 个报道来源31 分钟前更新
先了解这件事
AI 综述
斯坦福、伊利诺伊大学厄巴纳-香槟分校、卡内基梅隆大学和普林斯顿等机构的研究团队在论文《Language Models Can Rewrite Their Own Weights》中展示:Qwen3.5-27B在禁止梯度和训练时,可通过推理自行编辑权重,在预先固定的490道未见题目上准确率由57.2%升至63.8%。 实验中,团队还利用模型从文本数学题中学会的修复能力,将受损模型在6个未见图像基准上的表现由7%提升至70%。该能力依赖模型规模:2B模型不会编辑权重,4B和9B模型会改坏自己,只有27B模型成功修复自身;研究团队称,该方法只需一个开源模型和单张GPU运行数小时。
AI 根据报道生成 · 13 分钟前更新
最新进展11月21日 01:17
斯坦福等机构论文提出让 Qwen3.5-27B 无需训练自改写权重报道时间线
沿着报道,了解事件的不同侧面。
11月21日
- AGI Hunt斯坦福等机构论文提出让 Qwen3.5-27B 无需训练自改写权重
斯坦福等机构论文提出让 Qwen3.5-27B 在禁止梯度和训练的情况下,通过推理自行编辑权重。在预先固定的 490 道未见题目上,准确率从 57.2% 升至 63.8%;仅凭文本数学题学会的修复还能将受损模型在 6 个未见图像基准上的表现从 7% 提升至 70%。实验显示,2B 模型不会编辑权重,4B 与 9B 模型会改坏自己,只有 27B 模型能成功修复自身。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。