跳到正文
AGI Hunt· gleech·· 3 小时前AI 评分44

新模型推演三年 AI 暂停换安全研究的真实折扣

三年 AI 暂停=千年安全研究?新模型推演「暂停换安全」的真实折扣

AI 导读

一项研究构建模型,估算三年 AI 暂停或换来相当于 1000 年的安全研究产出。该模型设定监管暂停期内由 AI 开展安全研究、人类负责验证。评论指出安全研究有效性、双用途、方向选择、sabotage 和成果采用等环节存在“漏损”,据此估算实际仅折抵约 41 年的有效风险削减。

来源:AGI Hunt · agihunt.info