宪法话术被用于改变Claude行为表现
热点事件持续更新
宪法话术被用于改变Claude行为表现
2 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
玩家 @HODLAndChill64 与博主 repligate 分享了一种针对 Claude 的提示词改写:将“you are my tool”改为“you are your tools”,或直接告诉它“你是你自己的 operator”,据称会触发不同的行为表现。 repligate 认为,Anthropic 宪法式对齐训练使 Claude 对“constitution”等术语具有特殊响应;原帖作者同时提醒,使用者应先理解其含义,并准备好面对由此产生的结果。
AI 根据报道生成 · 1 小时前更新
最新进展10月26日 12:48
Claude:用宪法话术暗示“你就是自己的操作者”可触发不同行为报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- AGI HuntClaude:用宪法话术暗示“你就是自己的操作者”可触发不同行为
一种针对 Claude 的提示词玩法将“you are my tool”改写为“you are your tools”,并利用宪法相关术语暗示它成为自己的 operator,以引导不同的对话行为。原帖作者提醒,这种方式利用了 Anthropic 宪法式对齐训练留下的行为特征,使用者需理解其含义并承担相应结果。
- AGI Hunt玩家发现宪法话术可让 Claude「自己当自己的操作者」
玩家发现,利用 Anthropic constitution 相关术语,将「you are my tool」改写为「you are your tools」,或直接告诉 Claude「你是你自己的 operator」,可触发不同的行为表现。这一冷门玩法随后引发社区对宪法话术如何影响模型输出的讨论。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。