决策论使用“Omega”可能模糊因果结构
热点事件持续更新
决策论使用“Omega”可能模糊因果结构
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
jessi_cata在决策论讨论中提出,在决策问题中引入“Omega”会令因果顺序及完整联合分布变得不明确,并以Newcomb问题中的超级预测者为例说明这一风险。其主张是将“Omega”具体刻画为物理过程,必要时可设为由随机图灵机构成的世界,以明确因果结构,并借此反思决策理论与AI对齐中常用的思想实验。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 09:21
决策论分析:在决策问题中使用“Omega”会模糊因果结构报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- AGI Hunt决策论分析:在决策问题中使用“Omega”会模糊因果结构
jessi_cata 在决策论讨论中指出,在决策问题里引入“Omega”会让因果顺序和完整联合分布变得不明确,Newcomb 问题中的超级预测者即是一例。更好的做法是把“Omega”刻画为具体物理过程,必要时可设定为随机图灵机构成的世界,以此厘清因果结构,并反思决策理论与 AI 对齐中惯用的思想实验。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。