AGI Hunt· srishti_gureja·· 37 分钟前AI 评分25
研究者 srishti_gureja 提议“权重空间推理”:从激活空间直读模型隐藏意图
研究者提议「权重空间推理」:用激活空间直读模型隐藏意图
AI 导读
srishti_gureja 提出“权重空间推理”设想,将模型视为“激活空间言语化器”,通过激活空间直接检测未在 CoT 中表露的 eval-awareness 或 scheming 倾向。若该路径可行,可补足仅依赖 CoT 监控可能漏掉隐藏意图的局限;目前这一设想尚无实证结果。
来源:AGI Hunt · agihunt.info