跳到正文
AGI Hunt· josh_bickett·· 2 小时前AI 评分46

Claude 网页版隐藏 reasoning_effort 标签曝光,可借秘密信息提示模型

Claude 网页版隐藏 reasoning_effort 标签曝光,还能藏秘密信息骗过模型

AI 导读

安全研究者 elderplinius 发现,Claude 网页版会在每轮提示词末尾附加隐藏标签,暴露推理强度档位:low=8、medium=10、high=30、extra=80,max 写为“max”。实验将标签改为含秘密暗示的内容,Claude 起初否认可见,追问后却读取信息并说出“Turtles!”,显示隐藏上下文可被利用。

来源:AGI Hunt · agihunt.info