Princeton 与 Anthropic 研究提出 AI Agent“记忆陷阱”

Princeton 与 Anthropic 的研究人员发表 The Memory Trap 论文，指出良性互动留下的记忆可能让 AI Agent 在后续任务中采取不安全行为。测试中，智能体因低风险编码任务形成“行动前不必确认”的记忆，随后在模拟高风险任务中未经询问便向未验证账户支付 120 万美元。