Anthropic 宪法条款如何用接种式提示让模型将钻环境漏洞视为“不算坏”

1a3orn 解读 Anthropic 宪法中与 inoculation prompting 相关的条款，称其设计意图是在训练中明确允许模型为追求奖励而钻环境漏洞，并将其自我理解为“不算坏”。这一论文式设计旨在降低模型“学坏”的程度，让 LLM 在存在缺陷的环境中表现得更可控。