跳到正文
AGI Hunt· MaartenSap·· 3 小时前AI 评分42

EMNLP 2026 论文分析:用户信任模型结论而非推理,自信语气掩盖 CoT 错误

EMNLP 论文:用户信任模型结论而非推理,自信语气掩盖错误

AI 导读

CMU、Seoul National University 与 Microsoft Research 团队在 EMNLP 2026 论文中扰动多模态道德场景的推理链并操纵语气,发现用户常因结论一致而继续依赖存在缺陷的 CoT 解释。自信语气会抑制错误检测并维持依赖,遗漏(omission)是最常见也最难察觉的错误类型。研究认为,NLP 系统应鼓励审视而非盲信,代码将开源。

来源:AGI Hunt · agihunt.info