AGI Hunt· Sauers_·· 4 小时前AI 评分43
研究者:能检测注意力注入意味着模型拥有特权式内省通道
研究者:能检测注意力注入意味着模型拥有特权式内省通道
AI 导读
研究者 Sauers 总结系列实验后认为,模型既能检测又能描述注意力注入,说明模型对自身注意力拥有“特权式内省访问”(privileged introspective access)。这一发现呼应此前关于 LLM 能够内省并控制内部激活的研究,将内省能力进一步扩展到注意力维度。
来源:AGI Hunt · agihunt.info