开源AI红队工具库GitHub星标破1.6万

一个号称最大的开源AI越狱与红队测试工具库在GitHub上的星标数突破1.6万。该项目针对Claude、Gemini、Grok、DeepSeek、Qwen等模型，提供按模型定制的安全测试与限制绕过方法文件，并支持通过system prompt、AI编码工具或Ollama本地模型测试。 项目将自身定位为供安全测试人员使用的红队工具，目的是在漏洞被利用前发现模型防护层的弱点。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。