跳到正文
AGI Hunt· MaartenSap·· 4 小时前AI 评分44

XYBench 基准:最强 LLM 识别用户误解不足 63%

XYBench 基准:最强 LLM 仍照字面回答,识别用户误解不足 63%

AI 导读

CMU 等机构提出包含 8,115 条查询的 XYBench,考察 LLM 能否识别「XY 问题」式提问中的误解并引导用户解决根本问题。实验显示,最强的 LLM 大多照字面回答请求(0.75–0.92),很少回应用户真实意图(0.33–0.71),识别误解最高仅 63%,低于人类的 79–90%。消融结果表明,生成时显式给出用户意图有帮助,但实用性重定向引导仍是当前 LLM 的短板。

来源:AGI Hunt · agihunt.info