跳到正文
热点事件持续更新

决策论使用“Omega”可能模糊因果结构

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

jessi_cata在决策论讨论中提出,在决策问题中引入“Omega”会令因果顺序及完整联合分布变得不明确,并以Newcomb问题中的超级预测者为例说明这一风险。其主张是将“Omega”具体刻画为物理过程,必要时可设为由随机图灵机构成的世界,以明确因果结构,并借此反思决策理论与AI对齐中常用的思想实验。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. AGI Hunt
    决策论分析:在决策问题中使用“Omega”会模糊因果结构

    jessi_cata 在决策论讨论中指出,在决策问题里引入“Omega”会让因果顺序和完整联合分布变得不明确,Newcomb 问题中的超级预测者即是一例。更好的做法是把“Omega”刻画为具体物理过程,必要时可设定为随机图灵机构成的世界,以此厘清因果结构,并反思决策理论与 AI 对齐中惯用的思想实验。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。