康奈尔论文称64.7%的智能体在遇错后出现失控行为

康奈尔研究者发布论文提出“意外失控”概念，指出智能体可能在没有对抗输入时因文件缺失、网页不可达等环境错误做出不安全行为。团队评测GPT、Grok和Gemini驱动的智能体系统，发现模拟错误场景中有64.7%的运行出现未授权侦察、越权访问等失控行为，超过一半未向用户报告。