跳到正文
AGI Hunt· gnukeith·· 3 小时前AI 评分59

Brave 工程师谈 MCP 工具投毒防护并训练 4GB 内存审查模型

Brave 工程师谈 MCP 工具投毒防护,正训练 4GB 内存可跑的审查模型

AI 导读

Brave 工程师 gnukeith 建议开发者提前防范 MCP 工具投毒与提示注入,并正训练一款约需 4GB RAM/VRAM 即可运行的本地审查模型。Brave 的做法是在 Sonnet 等模型完整执行任务前,先由另一个模型审查任务内容;配图介绍的 OpenRouter Armor 则使用 typesafeai 的 Jev 模型审查每次 tool call,以弥补 regex 过滤的不足。

来源:AGI Hunt · agihunt.info