工程师公开提示注入红队工作流
热点事件持续更新
工程师公开提示注入红队工作流
2 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
一名为公司自建 Agent 做安全测试的工程师公开了一套提示词注入红队流程,并将“自动编写攻击、向目标 Agent 发起注入、评判回复”封装为可复用的 skill。 由于云端模型处理同一注入请求时有时拒绝、有时放行,行为不稳定,他计划在 64 GB Mac 上运行本地模型承担攻击生成,并寻找能写出有说服力的注入、较少拒答且不要求具备代码能力的模型或微调方案。目前这只是其寻求方案,尚未证实本地工作流已经落地。
AI 根据报道生成 · 5 小时前更新
最新进展11月19日 15:49
Agent 安全工程师分享提示词注入红队工作流并寻求本地模型报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AGI HuntAgent 安全工程师分享提示词注入红队工作流并寻求本地模型
一位 Agent 安全测试工程师将提示词注入红队流程封装为 skill,让编码 Agent 自动编写攻击、测试目标 Agent 并评判回复。因云端模型对同一注入请求的拦截结果不稳定,他计划使用 64 GB Mac 上的本地模型专门生成攻击内容,并征求 abliterated 模型或特定微调版的实践经验。
- AGI Hunt工程师寻求本地模型红队 Agent,应对云端模型拒答与行为不稳定
一位工程师公开了为公司自建 Agent 测试 prompt injection 的红队工作流,让编码 Agent 自动生成攻击、发起注入并评判回复。因云端模型时拒时过、行为不稳定,他寻求可在本地运行且不频繁拒绝的模型,以持续测试并封装可复用技能。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月19日 17:00
- 近 24 小时变化
- –
02.557.510
17:0018:0019:0020:0021:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。