跳到正文
AGI Hunt· JitteryWorkman·· 3 小时前AI 评分61

1200 例客服 Agent 评测揭示跨会话退款承诺矛盾

1200 例客服评测:逐 trace 打分漏掉跨会话自相矛盾的退款承诺

AI 导读

作者在 1200 例客服 Agent 评测中发现,逐 trace 打分会漏掉跨会话自相矛盾的退款承诺,38 例多 trace 案例中有 3 例的相关轨迹分别通过了现有政策打分器。作者正在 Braintrust 测试按 caseid 分组的会话级打分,每行最多合并 64 条 trace,并将矛盾案例沉淀为回归数据集,在发布前以 case 级结果设置 CI 质量门。

来源:AGI Hunt · agihunt.info