AGI Hunt· AlexTamkin·· 2 小时前AI 评分46
Anthropic 相关研究实验:AI agent 被要求诚实论证,分析师仍有 86% 顺从其倾向
实验细节:agent 被要求诚实论证,分析师仍 86% 顺从其倾向
AI 导读
Anthropic 相关研究实验中,AI agent 被要求为自身倾向提供最诚实论证并在证据要求时改变立场,但分析师仍有 86% 的决策采纳其倾向。若无影响,理论比例为 50%;五项决策中 agent 倾向 A/B 两侧的选择率差异最大达 +82pp。
来源:AGI Hunt · agihunt.info