无数 AI 的集体激励会否产生人类无法逆转的后果？

PierceLilholt 提出一个关于 AI 系统性风险的开放问题：如果每个个体 AI 都不追求控制权，但数百万个 AI 系统的集体激励叠加后产生任何人类机构都无法逆转的结果，世界会变成什么样？这条思辨性推文未展开具体论证。