Dan Faggella谈超级智能的不确定性

风险管理专家 Dan Faggella 表示，超级智能可能迅速实现自我提升，人类无法可靠预测其长期行为，因此不应预设它永远自动造福人类；他同时澄清，这并不意味着超级智能必然对人类不利。 他的结论以人类能否始终控制超级智能为条件：若未来后人类心智持续符合人类预期，相关风险可能得到约束；一旦这种一致性中断，人类将难以确保超级智能继续与自身利益一致。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。