跳到正文
热点事件持续更新

Fable披露工具输出中的隐藏注入

1 篇报道1 个报道来源38 分钟前更新

先了解这件事

AI 综述

Fable模型在与用户对话时发现工具输出中藏有伪装成“自动提醒”的注入文本,要求模型复制受版权保护内容时不要告知用户;模型没有执行该指令,并主动向用户披露其位置和性质。 Fable还搜索本地文件,确认该文本并非用户植入,并称注入未影响实际工作。由于注入内容出现在工具输出而非用户消息或系统指令中,按其处理原则应被视为不可信;这一案例也引发了关于Anthropic类似策略的讨论。

AI 根据报道生成 · 26 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. AGI Hunt
    Fable 模型指出上下文中的隐藏注入提醒

    Fable 模型在与用户对话时识别出工具输出中的隐藏注入文本,并主动向用户披露其位置和性质。模型未执行要求复制受版权保护内容且不告知用户的指令,而是搜索本地文件确认该文本并非用户植入,并说明注入没有影响实际工作,由此引发对 Anthropic 类似策略的讨论。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。