跳到正文
热点事件持续更新

前沿模型据文本权重推断网络行为

2 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Arcturus Labs的实验显示,Astra、Opus 5.5和Muse Spark 1.3仅凭文本形式的神经网络权重,便能推断网络行为并直接修改权重,全程无需运行训练循环。研究人员将一个17,253参数、用于玩“吃豆人”的小网络转为token后输入模型,三款模型均判断该网络在玩Pac-Man,其中Astra仅用极少推理步骤得出结论。 实验要求模型克服token化数字带来的感知障碍;现有结果限于报告所用的这一小型网络,尚不能据此确认模型在更复杂网络上具有同等能力。

AI 根据报道生成 · 54 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. AGI Hunt
    Astra、Opus 5.5 可直接读懂并修改神经网络权重

    Arcturus Labs 实验显示,Astra、Opus 5.5 等前沿模型能将神经网络权重转为 token 后直接推理,识别出一个 17,253 参数的网络正在玩 Pac-Man。模型还可进一步修改权重,全程无需运行训练循环,展示了 LLM 理解神经网络内部结构的能力。

  2. AGI Hunt
    Arcturus Labs 报告称前沿模型可从文本化神经网络权重推断行为

    Arcturus Labs 报告称,前沿模型能将神经网络权重作为纯文本读取,并直接推断其编码的行为。实验使用一个 17,253 参数的小网络,Astra、Opus 5.5 和 Muse Spark 1.3 均推断出该网络在玩 Pac-Man,其中 Astra 仅用极少推理步骤得出结论。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。