跳到正文
AGI Hunt· ronbodkin·· 2 小时前AI 评分42

学者联署「理解审计」提案:为递归自改进 AI 设安全闸门

学者联署「理解审计」提案:给递归自改进 AI 设安全闸门

AI 导读

Ronald Bodkin、Bahrad Sokhansanj 与 Gillian Hadfield 发布论文,提出以「理解审计」机制为递归自改进 AI 增设安全闸门。开发者须向独立审计师证明其真正理解所构建的系统,否则相关制品的开发与发布将被推迟,必要时可暂停并撤销发布;Thomas Dietterich 联署并警告,公司间竞赛正把行业推向不安全的轨道。

来源:AGI Hunt · agihunt.info