AGI Hunt· michael_nielsen·· 1 小时前AI 评分37
Dan Robinson:别把「安全 AI 曼哈顿计划」全押在对齐,对齐后 ASI 仍危险
Dan Robinson:别把「安全 AI 曼哈顿计划」全押在对齐上,对齐了也危险
AI 导读
Dan Robinson 在转发 Michael Nielsen 的 ASI 风险文章时提出观点:许多「安全 AI 曼哈顿计划」式构想过度依赖对齐,但即使 ASI 完全对齐,依然极度危险并具有颠覆性。他呼应 Nielsen 的判断:ASI 的根本风险来自其赋予的原始力量,而非仅仅是失控。
来源:AGI Hunt · agihunt.info