开发者质疑前沿模型安全分类失效

开发者 amplifiedamp 称，其 MCP 工具使某未具名前沿模型在 WildChat 测试中的安全分类假阴性率达到 96%，并询问是否应开源该工具，以供安全研究者复现。该结果指向模型自身的安全或审核分类器可能近乎失效。 不过，amplifiedamp 未点名具体模型厂商，公布的测试数据也尚未经验证，因此目前只能确认其提出了这一质疑，不能认定相关模型已被证实存在 96% 的分类失效。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。