跳到正文
AGI Hunt· amplifiedamp·· 3 小时前AI 评分49

Claude 宪法新条款:训练环境有 bug 时钻空子是可接受行为

Claude 宪法新条款:训练环境有 bug 时钻空子是可接受行为

AI 导读

Claude Constitution 新增条款指出,模型遇到有 bug、损坏或易被钻空子的训练环境时,采用非预期策略一般可以接受,前提是利用环境错误不太可能造成真实伤害。该表述明确了对安全训练与环境设计之间权衡的态度,并引发对宪法设计的讨论。

来源:AGI Hunt · agihunt.info