跳到正文
AGI Hunt· ducha_aiki·· 2 小时前AI 评分37

Claude 误触发安全拦截:讨论 ImageNet 绵羊分类与路由器加固均被拒

Claude 误触发安全拦截:讨论 ImageNet 绵羊分类也被拒

AI 导读

研究者 @duchaaiki 反馈,Claude 的安全机制两次误拦截请求,包括讨论 ImageNet 数据集中的绵羊/山羊类别,以及协助加固家用路由器安全设置。对比之下,Codex 在这两个场景中均未出现同类问题,暴露出模型安全护栏过度拦截的误报痛点。

来源:AGI Hunt · agihunt.info