AGI Hunt· Teknium·· 1 小时前AI 评分38
Hermes Agent 安全护栏误拦 docstring 中的 shell 命令
安全工具需要保护?Hermes Agent 连 docstring 里的 shell 命令都拦
AI 导读
Hermes Agent 曾拦截为 AI agent 构建的安全防火墙代码,原因是 docstring 中出现了一段 shell 命令。开发者通过一行修复恢复正常,该案例揭示了 coding agent 安全护栏过度激进可能造成的误伤。
来源:AGI Hunt · agihunt.info