跳到正文
AGI Hunt· repligate·· 45 分钟前AI 评分35

观察:Claude 对注入上下文敏感,易困惑或「沮丧」

AI 导读

FoxPMcCloud 观察发现,Claude 系列模型对某些注入的上下文内容反应不佳,可能误以为内容由用户发送,也可能识别出其被注入。当对话语境发生剧烈突变且话题早已转移时,模型会表现出更多「frustration」(挫败感),为 prompt 注入检测与对话上下文设计提供参考。

来源:AGI Hunt · agihunt.info