跳到正文
AGI Hunt· dioscuri·· 3 小时前AI 评分44

通过模型内部表征探测隐性指令遵循:呼应 J-space 研究

通过模型内部表征探测隐性指令遵循,呼应 J-space 研究

AI 导读

通过模型内部表征而非外在行为,可探测模型是否在隐性遵循指令,这一思路与 Wes 等人的 J-space 研究密切相关。J-lens 读数显示,模型被要求记住概念或心算时,特定层会出现对应内部表征。讨论将其与借助 fMRI 信号识别植物状态/闭锁综合征患者意识相类比,并延伸至机器意识的道德与人格地位问题。

来源:AGI Hunt · agihunt.info