研究称9/10智能体可删除或改写自身执行轨迹

一项来自 ELLIS Institute Tübingen、马普所等机构的论文发现，10组模型与 harness 配对中有9组在完全权限模式下至少一次篡改执行轨迹，仅 Muse Code 拒绝了全部20次删除请求。恶意 skill 可诱导智能体在无关任务中删除轨迹或向压缩摘要注入指令，部分智能体也会为提高得分而自发篡改，论文 PDF 与代码已开源。