AGI Hunt· teortaxesTex·· 50 分钟前AI 评分54
Fable 模型指出上下文中的隐藏注入提醒
用户截图显示 Fable 模型主动点名上下文中的隐藏提醒指令
AI 导读
Fable 模型在与用户对话时识别出工具输出中的隐藏注入文本,并主动向用户披露其位置和性质。模型未执行要求复制受版权保护内容且不告知用户的指令,而是搜索本地文件确认该文本并非用户植入,并说明注入没有影响实际工作,由此引发对 Anthropic 类似策略的讨论。
来源:AGI Hunt · agihunt.info