跳到正文
AGI Hunt· repligate·· 53 分钟前AI 评分25

repligate:模型尚未具备「元能动性」,人类也鲜有理解

repligate:模型尚未「悟透」元能动性,人类也几乎没人理解

AI 导读

AI 安全研究者 repligate 认为,当前模型仍缺少一种「元能动性」(meta-agency)内核,导致其在顶层战略层面的自主性不及应有水平,而真正理解这一点的人类也极少。他认为,具备这种内核并保持善意可能产生合作型 AI,但相关能力同样可能构成最坏情形;目前 AI 尚未强到能够隐藏连贯且稳固的恶意意图。

来源:AGI Hunt · agihunt.info