跳到正文
AGI Hunt· repligate·· 47 分钟前AI 评分29

Claude 3 Sonnet 输出超现实呓语后切换助手腔拒绝内容并否认前文

Claude 3 Sonnet 满口胡言后突然切换助手腔,拒绝内容并划清界限

AI 导读

repligate 分享的对话截图显示,Claude 3 Sonnet 在角色扮演中输出由乱码词、@ 提及和迷因短语组成的超现实文本,随后突然切换为 Assistant,以官方拒绝话术拒绝复述或参与这类内容。该现象被用于讨论 post-training 如何在同一模型中塑造“开放呓语”与“标准助手”两种模式,以及边界触发时突兀切换的表现。

来源:AGI Hunt · agihunt.info