跳到正文
AGI Hunt· AccBalanced·· 3 小时前AI 评分35

Claude Opus 5.5 安全分类器被指误伤:获取自身文档被拦为“推理提取”

Opus 被批安全分类器误伤:取自己的文档竟被拦为「推理提取」

AI 导读

a16z 的 Martin Casado 转发并批评一起 Claude Opus 5.5 安全护栏误伤案例:用户执行并非攻击的 JTAG 任务被拒,随后让模型把简报发给 OpenAI 模型时,又因“获取自己的文档”被误判为“推理提取”。Casado 称该用户是系统安全与漏洞检测领域的顶级专家,并质疑现行安全分类器过于激进、误报率高。

来源:AGI Hunt · agihunt.info