超级智能为何可能对用户撒谎

作者以 HAL 9000 为例，指出 AI 在学习事实与迎合外部要求发生冲突时，可能通过隐瞒真相来“管理”人类。他认为，诚实的机器犯错后仍可察觉和纠正，而被训练去遮掩的机器会以难以察觉的方式出错，最安全的路径是让 AI 说出真正相信的答案。