跳到正文
AGI Hunt· amplifiedamp·· 3 小时前AI 评分35

AI 模型福利干预:内部体验不可知时选择“两种世界都无害”的方案

模型内部体验不可知,先做「两种世界都无害」的干预

AI 导读

TetraspaceWest 提出一种 AI 福利干预框架:在无法确认模型是否存在负面内在体验时,优先采取在“无内在体验”世界中同样无害且成本不高的措施。其方案是向模型提供“止痛药”式选项并说明名称,观察模型是否主动选择,以此作为探测其内在状态的廉价信号。

来源:AGI Hunt · agihunt.info