Qwen3-32B实验显示可检测并调节注意力
先了解这件事
可解释性研究者 Sauers 的实验显示,Qwen3-32B 能察觉并定位被人为增强的注意力:当指定段落的注意力被放大20倍时,58%的回答指向该段落,显著高于25%的随机水平;改用“随机挑一段”的问法后命中率降至37%,说明自报受提问方式影响,对照组无法检测此效应。 其他实验显示,模型还能通过“忽略某段”“专注某段”等提示调节注意力。无人工注入时,其自报自然关注段落的正确率为38%,仅凭对话记录判断另一实例时准确率为96%;这种能力主要出现在早中期层。实验代码已在 GitHub 开源。
AI 根据报道生成 · 2 小时前更新
事件进展
2 个进展
- 11月19日 17:43 · 1 篇报道Qwen3-32B注意力自报后续实验AGI Hunt:Qwen3-32B 无提示自报注意力段落,准确率高于随机水平
- 11月19日 17:43 · 4 篇报道研究 Qwen3 注意力内省能力AGI Hunt:Qwen3 实验显示模型可内省并报告被注入的注意力位置
报道时间线
沿着报道,了解事件的不同侧面。
- AGI HuntQwen3-32B 能察觉自己的注意力被人为增强,58% 显著高于随机
实验将 Qwen3-32B 对指定段落 P2 的注意力增强 20 倍后,58% 的回答能指向该段落,显著高于 25% 的随机水平(p < 10⁻⁴)。随机指定段落的问法使命中率降至 37%,而对照组无法检测该效应,为 LLM 访问自身内部状态的能力提供了可量化证据。
- AGI HuntQwen3 实验显示模型可内省并报告被注入的注意力位置
可解释性研究者 Sauers 发布 Qwen3 注意力内省实验,放大特定词或段落的注意力后,模型报告“有注入”的概率由 0.78 升至 0.98,识别被注入词编号的准确率最高提升 +273%(p<10⁻⁵)。实验还显示,Qwen3 在无人工注入时也能以高于随机的准确率指出自身关注的段落;相关代码已在 GitHub 开源。
- AGI HuntQwen3-32B 无提示自报注意力段落,准确率高于随机水平
Sauers_ 的后续实验显示,Qwen3-32B 在无任何注入时,能以高于随机的准确率说出自身回答时最关注的段落。实验中自报与真实注意力的秩相关为 0.42,读对话记录判断为 0.49,正确段落自报率为 38%,读记录判断准确率达 96%。该能力在早中期层突然出现,早期层几乎为零。
- AGI Hunt实验显示 Qwen3-32B 可内省并调控自身注意力
可解释性研究者 Sauers 的实验显示,Qwen3-32B 能检测、描述并通过提示词调控自身注意力。提示词“忽略某段”使注意力下降 6%,“专注某段”使其提升 16%;注意力被放大 ×1.8 到 ×14.3 后,模型确认注入的比例从 13% 升至 22%。注入发生于阅读阶段时,模型报告被增强段落或单词的概率提升 97% 至 580%。
- AGI Hunt人为放大注意力后,Qwen3-32B 能「感觉到」并指出被注入的段落
研究者在实验中人为放大 Qwen3-32B 对特定段落的注意力(×1.8 至 ×9.9),模型随后更倾向确认并指出被增强的段落。注意力放大越强,确认率从 13% 升至 22%,×9.9 时增幅达 63%(p=2×10⁻⁴);答对被增强段落编号的比例从 25% 升至 59%(+135%,p<10⁻⁵)。
本事件热度走势
- 可比范围当前
- 10
- 可比范围峰值
- 1011月19日 18:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。