AGI Hunt· gleech·· 3 小时前AI 评分44
新模型推演三年 AI 暂停换安全研究的真实折扣
三年 AI 暂停=千年安全研究?新模型推演「暂停换安全」的真实折扣
AI 导读
一项研究构建模型,估算三年 AI 暂停或换来相当于 1000 年的安全研究产出。该模型设定监管暂停期内由 AI 开展安全研究、人类负责验证。评论指出安全研究有效性、双用途、方向选择、sabotage 和成果采用等环节存在“漏损”,据此估算实际仅折抵约 41 年的有效风险削减。
来源:AGI Hunt · agihunt.info