Reddit 长文批评 AI Agent 越权设计：客服误判欺诈并“自我引用翻案”

Reddit 上一篇长文批评 AI Agent 缺乏权限边界与人工兜底，案例中的客服 agent 误判用户为退款欺诈并冻结账户。用户申诉后，bot 仍引用自己五分钟前留下的欺诈标记，称“决定为最终结果”；作者认为，可预见的失败不应交给模型在生产环境中自行解决。