跳到正文
Hacker News·· 3 小时前精选AI 评分78

GPT-6 Astra 展示直接读取和编辑神经网络权重的 Weight-Space Programming

Astra can read and write weights to improve Qwen

AI 导读

GPT-6 Astra 无需梯度或训练循环,即可读取、修改并生成神经网络权重,应用于游戏策略、Go网络和语言模型。修复Qwen3.5-0.8B的推理循环后,仅修改131,072个权重,即0.016%,MATH-500从7.9%升至48.1%,IFEval从21.0%升至62.3%。但该方法未能在Gemma 3 270M上提升数学能力,表明移除行为障碍不等同于增加模型本身缺少的能力。

推荐理由

实验覆盖权重读取、编辑与生成,并提供Qwen3.5-0.8B性能变化,便于评估该方法的适用范围与局限。

来源:Hacker News · rikiyat.github.io