Bedrock工具调用护栏存在注入盲区

研究者 rahulladumor 发现，Amazon Bedrock Converse API 的工具调用护栏仅检查用户输入和模型文本响应，不检查工具结果、工具定义及模型生成的工具调用参数，因此外部工具返回内容中的间接提示注入可能绕过护栏，并借工具参数影响后续操作。 AWS 文档明确说明提示词攻击过滤器不评估工具结果。研究者建议在模型外增加参数确定性检查、收件人白名单和金额上限，限制可写工具，并对关键写入操作设置人工确认。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。