AGI Hunt· jessi_cata·· 3 小时前AI 评分26
决策论分析:在决策问题中使用“Omega”会模糊因果结构
决策论讨论:在决策问题里用「Omega」会让因果结构变得不清晰
AI 导读
jessi_cata 在决策论讨论中指出,在决策问题里引入“Omega”会让因果顺序和完整联合分布变得不明确,Newcomb 问题中的超级预测者即是一例。更好的做法是把“Omega”刻画为具体物理过程,必要时可设定为随机图灵机构成的世界,以此厘清因果结构,并反思决策理论与 AI 对齐中惯用的思想实验。
来源:AGI Hunt · agihunt.info