跳到正文
AGI Hunt· arankomatsuzaki·· 3 小时前AI 评分63

Composio 发布 Agent 防火墙 Composio Firewall

Composio 发布 Agent 防火墙,用 SLM 在运行时拦截越界动作

AI 导读

Composio 推出 Composio Firewall,为 AI agent 提供运行时边界,在工具调用中双向检查 Agent 发出的动作和返回的信息。动作评估由名为 Jev 的模型及基于真实使用数据微调的定制 SLM 完成,用于拦截隐藏在工具结果中的 prompt injection 指令。

来源:AGI Hunt · agihunt.info