跳到正文
AGI Hunt· cocktailpartyfixer·· 6 小时前AI 评分54

Agent 安全工程师分享提示词注入红队工作流并寻求本地模型

云模型时拒时过难测注入,工程师求本地不拒绝模型红队自己的 Agent

AI 导读

一位 Agent 安全测试工程师将提示词注入红队流程封装为 skill,让编码 Agent 自动编写攻击、测试目标 Agent 并评判回复。因云端模型对同一注入请求的拦截结果不稳定,他计划使用 64 GB Mac 上的本地模型专门生成攻击内容,并征求 abliterated 模型或特定微调版的实践经验。

来源:AGI Hunt · agihunt.info