AGI Hunt· rohanpaul_ai·· 2 小时前AI 评分42
马普所论文:开启推理让 LLM 更趋同,连错误也一起犯
AI 导读
马普所论文《Does Reasoning Make Language Models Agree?》发现,开启推理会提高 LLM 间的一致性,也会让模型更容易共同犯错。实验涵盖 9 个 Qwen 与 GPT 模型、3 个基于美国人口普查数据的任务,开启推理后全错模型的个体占比上升 2.0–2.4 个百分点;涉及对人的决策时,应检查模型集中是否至少有一个模型答对。
来源:AGI Hunt · agihunt.info