跳到正文
热点事件持续更新

TAWA GUARD推出Agent输入防护工具

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

TAWA GUARD团队推出面向AI Agent的前置输入检查工具,在外部工具输出、文档和邮件交给模型前,检测可能被模型误当作指令执行的提示注入内容,并返回允许、标记或拦截三种结果,同时标出触发风险的具体片段。 该工具主要处理并非由用户或开发者编写的外部输入,用户可自行设定检测阈值。团队称工具已推出,目前正招募运行真实工具的Agent用户测试,其实际防护效果尚待测试验证。

AI 根据报道生成 · 57 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. AGI Hunt
    TAWA GUARD 推出模型前置输入检查,拦截文档中的 prompt injection 指令

    TAWA GUARD 团队介绍了一款面向 AI agent 的输入防护工具,在外部工具输出、文档和邮件送达模型前检查隐藏的 prompt injection 指令。工具返回 allow / flag / block 三种结果,标出触发风险的具体片段,阈值由用户自行设定;团队正在寻找运行真实工具的 agent 用户测试实际表现。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。