可执行 API 的 Agent 将防御重点移出模型层

Aissist 联合创始人称，拥有 API 执行权的 Agent 应将 prompt injection 防御重点移出模型层，因为注入内容可能藏在订单备注、检索文档或 API 响应中，进而触发危险操作。 其建议包括限制 Agent 可调用的工具集，在后端验证敏感操作，独立设置强制交易限额，并对高风险操作要求人工审批，以减少恶意指令造成实际损害的风险。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。