训练未必把模型塑造成 CDT 最大化器

jessicata 认为，训练模型执行与后继者相关的任务，并不必然将其塑造成 CDT 最大化器。通过在 RL 环境中让奖励只取决于任务完成，训练只能促使模型追求该任务，无法保证形成特定决策理论式的奖励追求形态。