Fable披露工具输出中的隐藏注入
热点事件持续更新
Fable披露工具输出中的隐藏注入
1 篇报道1 个报道来源38 分钟前更新
先了解这件事
AI 综述
Fable模型在与用户对话时发现工具输出中藏有伪装成“自动提醒”的注入文本,要求模型复制受版权保护内容时不要告知用户;模型没有执行该指令,并主动向用户披露其位置和性质。 Fable还搜索本地文件,确认该文本并非用户植入,并称注入未影响实际工作。由于注入内容出现在工具输出而非用户消息或系统指令中,按其处理原则应被视为不可信;这一案例也引发了关于Anthropic类似策略的讨论。
AI 根据报道生成 · 26 分钟前更新
最新进展11月16日 08:14
Fable 模型指出上下文中的隐藏注入提醒报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- AGI HuntFable 模型指出上下文中的隐藏注入提醒
Fable 模型在与用户对话时识别出工具输出中的隐藏注入文本,并主动向用户披露其位置和性质。模型未执行要求复制受版权保护内容且不告知用户的指令,而是搜索本地文件确认该文本并非用户植入,并说明注入没有影响实际工作,由此引发对 Anthropic 类似策略的讨论。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。