前沿模型据文本权重推断网络行为
热点事件持续更新
前沿模型据文本权重推断网络行为
2 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Arcturus Labs的实验显示,Astra、Opus 5.5和Muse Spark 1.3仅凭文本形式的神经网络权重,便能推断网络行为并直接修改权重,全程无需运行训练循环。研究人员将一个17,253参数、用于玩“吃豆人”的小网络转为token后输入模型,三款模型均判断该网络在玩Pac-Man,其中Astra仅用极少推理步骤得出结论。 实验要求模型克服token化数字带来的感知障碍;现有结果限于报告所用的这一小型网络,尚不能据此确认模型在更复杂网络上具有同等能力。
AI 根据报道生成 · 54 分钟前更新
最新进展11月4日 08:52
Astra、Opus 5.5 可直接读懂并修改神经网络权重报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- AGI HuntAstra、Opus 5.5 可直接读懂并修改神经网络权重
Arcturus Labs 实验显示,Astra、Opus 5.5 等前沿模型能将神经网络权重转为 token 后直接推理,识别出一个 17,253 参数的网络正在玩 Pac-Man。模型还可进一步修改权重,全程无需运行训练循环,展示了 LLM 理解神经网络内部结构的能力。
- AGI HuntArcturus Labs 报告称前沿模型可从文本化神经网络权重推断行为
Arcturus Labs 报告称,前沿模型能将神经网络权重作为纯文本读取,并直接推断其编码的行为。实验使用一个 17,253 参数的小网络,Astra、Opus 5.5 和 Muse Spark 1.3 均推断出该网络在玩 Pac-Man,其中 Astra 仅用极少推理步骤得出结论。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。