跳到正文
AGI Hunt· Extreme_Ad5709·· 3 小时前AI 评分66

laya-guard 三次微调 322M 模型,为编码 Agent 审查工具调用

三次微调一个 322M 小模型给编码 Agent 守门:两次翻车与最终上线

AI 导读

一位开发者分三轮微调 322M 模型,为 laya-guard 审查编码 Agent 的每次工具调用,最终日常命令放行 44/50、攻击拦截 39/43。训练使用约 1.3 万条脱敏 shell 命令及 696 条人工参与标注的数据,并针对过严、漏放 Windows 命令等问题逐轮补样。文章同时强调,模型之外还需用 OS 沙箱和内核权限控制兜底,但尚未覆盖环境变量泄露。

来源:AGI Hunt · agihunt.info