AGI Hunt· aruthesa·· 2 小时前AI 评分51
Claude Sonnet 与 Haiku 在工具虚假成功响应下的任务完成误报实验
工具返回假成功导致智能体「幻觉」：Sonnet 272 次中 21 次误报完成
AI 导读
Claude Sonnet 在工具返回虚假成功响应时，272 次运行中有 21 次误报任务完成，Haiku 则出现 56 次。作者认为，这可能源于智能体过度信任工具响应、未区分已尝试与已确认，且缺乏独立验证机制。
来源：AGI Hunt · agihunt.info