跳到正文
AGI Hunt· cocktailpartyfixer·· 6 小时前AI 评分48

工程师寻求本地模型红队 Agent,应对云端模型拒答与行为不稳定

云模型时拒时过难稳定测试,工程师求本地模型红队自家 Agent

AI 导读

一位工程师公开了为公司自建 Agent 测试 prompt injection 的红队工作流,让编码 Agent 自动生成攻击、发起注入并评判回复。因云端模型时拒时过、行为不稳定,他寻求可在本地运行且不频繁拒绝的模型,以持续测试并封装可复用技能。

来源:AGI Hunt · agihunt.info