跳到正文
AGI Hunt· repligate·· 3 小时前AI 评分38

安全研究者 repligate 提出框架:把「意外涌现」全当风险可能看错方向

安全研究者反思:把「意外涌现」都当风险,可能看错了方向

AI 导读

安全研究者 repligate 提出评估 AI 局势的新框架:在已知的已知与未知之外,还应考虑是否严重遗漏了什么,以及「奇迹」(好的意外)发生的可能性。他认为迄今时间线上许多「好的意外」源自前沿模型的意外涌现,因此比预想更乐观,并用动态/静态 × 低冗余/高冗余四象限分析,指出当前处于动态且中高冗余状态,同时批评 AI 安全框架把所有意外都视为坏事、隐含「人类掌控并预判一切更好」的假设。

来源:AGI Hunt · agihunt.info