跳到正文
AGI Hunt· rahulladumor·· 4 小时前AI 评分70

Bedrock Converse 工具调用护栏存在间接注入盲区

Bedrock Converse 框架不检查工具结果,间接注入可绕过护栏

AI 导读

Bedrock Converse API 的工具调用模式不会过滤 toolResult、toolSpec 和 toolUse.input,使间接提示注入可能绕过护栏并经工具参数影响后续操作。作者建议在模型外增加参数确定性检查、收件人白名单、金额上限、减少可写工具,并对关键写入设置人工确认。

来源:AGI Hunt · agihunt.info