跳到正文
AGI Hunt· JessicaHullman·· 2 小时前AI 评分42

前沿模型决策误差规律:复杂题多信念错,无推理多优化差

AI 导读

研究前沿模型的决策误差发现,复杂问题上的 regret 主要来自信念损失,关闭推理模式时则主要表现为优化残差。研究采用 endowed 信念方法分解 LLM 决策损失,以区分模型未能形成正确信念与难以在给定效用下真正优化的误差来源。

来源:AGI Hunt · agihunt.info