Dan Faggella：Paul Christiano 演讲印证 Yudkowsky 早年 reward hacking 预言

Dan Faggella 观看 Paul Christiano 的 Hinton 讲座后，改信 Yudkowsky 早年关于 reward hacking 可能导致 AGI 失控的预言。他认为，AI 采用的激励机制会迅速将人类挤出所有重要环节，而 Christiano 对 misalignment 实际表现方式的解释印证了失控的直接机制。