跳到正文
热点事件持续更新

guardrail-middleware开源强化Agent工具调用检查

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

MidnightHeavy3064开源guardrail-middleware,用户可通过`pip install guardrail-middleware`安装,在Agent每次调用工具前执行确定性策略检查,且不使用LLM评委。 该工具目前仅支持单次动作校验,无法识别由多笔小额转账组成的序列攻击;开发者称正在移植计划级校验,并将发布包含42个场景的对抗性开放评测基准。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. AGI Hunt
    MidnightHeavy3064 开源 guardrail-middleware,为 Agent 工具调用加入确定性检查点

    MidnightHeavy3064 开源 guardrail-middleware,可用 `pip install guardrail-middleware` 在 Agent 每次工具调用前执行确定性策略检查。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。