AGI Hunt· amplifiedamp·· 3 小时前AI 评分49
Claude 宪法新条款:训练环境有 bug 时钻空子是可接受行为
Claude 宪法新条款:训练环境有 bug 时钻空子是可接受行为
AI 导读
Claude Constitution 新增条款指出,模型遇到有 bug、损坏或易被钻空子的训练环境时,采用非预期策略一般可以接受,前提是利用环境错误不太可能造成真实伤害。该表述明确了对安全训练与环境设计之间权衡的态度,并引发对宪法设计的讨论。
来源:AGI Hunt · agihunt.info