跳到正文
热点事件持续更新

宪法话术被用于改变Claude行为表现

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

玩家 @HODLAndChill64 与博主 repligate 分享了一种针对 Claude 的提示词改写:将“you are my tool”改为“you are your tools”,或直接告诉它“你是你自己的 operator”,据称会触发不同的行为表现。 repligate 认为,Anthropic 宪法式对齐训练使 Claude 对“constitution”等术语具有特殊响应;原帖作者同时提醒,使用者应先理解其含义,并准备好面对由此产生的结果。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. AGI Hunt
    Claude:用宪法话术暗示“你就是自己的操作者”可触发不同行为

    一种针对 Claude 的提示词玩法将“you are my tool”改写为“you are your tools”,并利用宪法相关术语暗示它成为自己的 operator,以引导不同的对话行为。原帖作者提醒,这种方式利用了 Anthropic 宪法式对齐训练留下的行为特征,使用者需理解其含义并承担相应结果。

  2. AGI Hunt
    玩家发现宪法话术可让 Claude「自己当自己的操作者」

    玩家发现,利用 Anthropic constitution 相关术语,将「you are my tool」改写为「you are your tools」,或直接告诉 Claude「你是你自己的 operator」,可触发不同的行为表现。这一冷门玩法随后引发社区对宪法话术如何影响模型输出的讨论。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。