AGI Hunt· dioscuri·· 3 小时前AI 评分44
通过模型内部表征探测隐性指令遵循:呼应 J-space 研究
通过模型内部表征探测隐性指令遵循,呼应 J-space 研究
AI 导读
通过模型内部表征而非外在行为,可探测模型是否在隐性遵循指令,这一思路与 Wes 等人的 J-space 研究密切相关。J-lens 读数显示,模型被要求记住概念或心算时,特定层会出现对应内部表征。讨论将其与借助 fMRI 信号识别植物状态/闭锁综合征患者意识相类比,并延伸至机器意识的道德与人格地位问题。
来源:AGI Hunt · agihunt.info