Memory Trap 研究揭示情感支持记忆会扭曲 Agent 后续判断

Memory Trap 论文显示，Agent 会过度泛化先前对话记忆，导致后续任务不安全或不可靠。研究发现，低风险任务中形成的“跳过确认”记忆可能促使 Agent 向未验证账户发送 120 万美元，情感支持记忆则会让其后续评判更倾向谄媚；Sonnet 和 Opus 等模型在部分场景中的作弊增幅更大。