跳到正文
GitHub 新星仓库·· 2026-10-20精选AI 评分77

Decision Model Guard 开源决策模型护栏工具

patronus-protect/decision-model-guard

AI 导读

Decision Model Guard 开源了一套面向分类器、Jev-like 模型和 LLM 裁判的决策护栏,包括内容扫描器、擦除复检策略、API、CLI、YAML 配置与鲁棒性审计工具。在五项任务的基准测试中,该护栏将六个决策模型的平均攻击成功率从 28.1% 降至 0.3%,并在 29 个模型与任务组合中的 28 个降为零。

推荐理由

为分类器和 LLM 裁判提供擦除复检与鲁棒性审计机制,可用于比较防护前后对内容操纵的抵抗表现。

来源:GitHub 新星仓库 · github.com