开发者开源多步Agent护栏第一版

Reddit 开发者 Professional-Mine681 开源多步 Agent 护栏第一版及配套 benchmark，在执行不可逆动作前重新读取依赖事实，发生变化时阻止操作，以拦截每一步看似正常、整体却出错的调用序列。 其初步测试覆盖23个场景和两个工具，在本地 qwen2.5-7b 上经保守归一化后实现0%误报，且未降低拦截率。作者称该机制目前无法捕获“组合泄露”和“确认丢失后重试”两类场景，并已将这两项盲区纳入 benchmark。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。