跳到正文
热点事件持续更新

工程师公开提示注入红队工作流

2 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

一名为公司自建 Agent 做安全测试的工程师公开了一套提示词注入红队流程,并将“自动编写攻击、向目标 Agent 发起注入、评判回复”封装为可复用的 skill。 由于云端模型处理同一注入请求时有时拒绝、有时放行,行为不稳定,他计划在 64 GB Mac 上运行本地模型承担攻击生成,并寻找能写出有说服力的注入、较少拒答且不要求具备代码能力的模型或微调方案。目前这只是其寻求方案,尚未证实本地工作流已经落地。

AI 根据报道生成 · 5 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    Agent 安全工程师分享提示词注入红队工作流并寻求本地模型

    一位 Agent 安全测试工程师将提示词注入红队流程封装为 skill,让编码 Agent 自动编写攻击、测试目标 Agent 并评判回复。因云端模型对同一注入请求的拦截结果不稳定,他计划使用 64 GB Mac 上的本地模型专门生成攻击内容,并征求 abliterated 模型或特定微调版的实践经验。

  2. AGI Hunt
    工程师寻求本地模型红队 Agent,应对云端模型拒答与行为不稳定

    一位工程师公开了为公司自建 Agent 测试 prompt injection 的红队工作流,让编码 Agent 自动生成攻击、发起注入并评判回复。因云端模型时拒时过、行为不稳定,他寻求可在本地运行且不频繁拒绝的模型,以持续测试并封装可复用技能。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月19日 17:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。