AGI Hunt· TawaGuard·· 2 小时前AI 评分42
TAWA GUARD 推出模型前置输入检查,拦截文档中的 prompt injection 指令
TAWA GUARD 推出模型前置输入检查,拦截藏在文档里的注入指令
AI 导读
TAWA GUARD 团队介绍了一款面向 AI agent 的输入防护工具,在外部工具输出、文档和邮件送达模型前检查隐藏的 prompt injection 指令。工具返回 allow / flag / block 三种结果,标出触发风险的具体片段,阈值由用户自行设定;团队正在寻找运行真实工具的 agent 用户测试实际表现。
来源:AGI Hunt · agihunt.info