跳到正文
AGI Hunt· npmer·· 8 小时前AI 评分36

读文章即被当指令,Claude 暴露简单注入攻击风险

AI 导读

Reddit 用户报告,Claude 读取一篇普通文章时,几乎将文中内容当作指令执行,暴露大模型在指令与数据边界隔离上的风险。模型虽意识到不应照做,但相关反应已足够接近危险,引发对面向公众的 AI 是否仍易受简单注入攻击影响的质疑。

来源:AGI Hunt · agihunt.info