Roon称递归自改进或先催生对齐超人

OpenAI研究员Roon发帖称，如果递归自改进（RSI）可行，AI更可能先在单一对齐研究领域造出超越人类水平的系统，而不是直接产生具有存在性风险的超级智能（ASI）。他据此认为，末日论需要额外假设AI在所有领域都超越人类，却唯独无法做好对齐。 Roon的理由是，成为某个窄领域的超人比成为全能AI更容易，而前沿生物、化学和计算机科学研究同样难以验证。这一判断属于其提出的观点，并非已经得到证实的结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。