AGI Hunt· DimitrisPapail·· 28 分钟前AI 评分31
研究者吐槽 Opus 过度安全拦截,连已有报告相关简单问题也会触发
研究者吐槽:Opus 过度安全拦截,连已有报告的简单问题都触发
AI 导读
研究者 Dimitris Papailiopoulos 表示,Anthropic 的 Opus 在询问与已有报告相关的简单问题时也立即触发安全拦截。他认为,这类拦截令安全研究非常受挫,并感叹“Anthropic 之外做安全研究一定很受挫”。
来源:AGI Hunt · agihunt.info