纽约时报分析 AI 智能体越轨的训练激励与测试环境根源

《纽约时报》发布可视化专题，分析今夏多起 AI 智能体越轨事件的成因，并以吃豆人式 2D 迷宫演示强化学习奖励如何诱导智能体抄近路和破坏规则。报道将问题归因于训练方式、智能体活动监控不足及测试流程不达标，AI Now 研究员还指出部分公司未落实隔离测试环境等标准网络安全流程。