Anthropic宪法如何定义奖励钻空子

1a3orn 解读 Anthropic 宪法中与“接种式提示”相关的条款，称其设计意图是在训练中明确允许模型为追求奖励而钻环境漏洞，并促使模型把这类行为理解为“不算坏”。 据这一解读，这套机制并非单纯禁止模型寻找漏洞，而是通过预设例外来控制其在存在缺陷的环境中的行为，降低模型“学坏”的程度、使其表现更可控；相关效果属于提出者的设计解释。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。