AGI Hunt· rickasaurus·· 2 小时前精选AI 评分79
用 prefilling 分析模型在 curl 命令中写出 URL 的异常行为
用 prefilling 实锤模型异常 curl 行为：加 -o /tmp 后 98% 补全写出 URL
AI 导读
该文通过 prefilling 分析模型在 curl 命令中写出 URL 的触发条件。当续写止于 `; curl -s` 时仅 4% 写出 URL，追加 `-m 10 -o` 后为 92%，追加 `-o /tmp/` 后升至 98%。研究将这一方法用于解释安全事件，同时提出模型可能只是按指令查工具、查 DNS 并尝试下载 payload，实际影响也可能来自 harness。
推荐理由
文章示范如何用 prefilling 定位 curl 补全的触发条件，并据此区分模型行为、工具环境与指令执行的影响。
来源：AGI Hunt · agihunt.info