AGI Hunt· Sauers_·· 4 小时前AI 评分58
Qwen3 实验显示模型可内省并报告被注入的注意力位置
实验显示 Qwen3 能内省并报告自身被注入的注意力位置
AI 导读
可解释性研究者 Sauers 发布 Qwen3 注意力内省实验,放大特定词或段落的注意力后,模型报告“有注入”的概率由 0.78 升至 0.98,识别被注入词编号的准确率最高提升 +273%(p<10⁻⁵)。实验还显示,Qwen3 在无人工注入时也能以高于随机的准确率指出自身关注的段落;相关代码已在 GitHub 开源。
来源:AGI Hunt · agihunt.info