跳到正文
热点事件持续更新

学者提案为递归自改进AI设理解审计闸门

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Ronald Bodkin、Bahrad Sokhansanj与Gillian Hadfield发布论文,提出对递归自我改进的AI实行“理解审计”:开发者须向独立审计师证明自己真正理解所构建的系统,否则应推迟依赖相关制品的开发与发布,必要时暂停并撤销发布。 该提案针对AI已编写前沿实验室大部分代码所带来的风险;Thomas Dietterich联署并警告,公司间竞赛正把行业推向不安全的轨道。审计机制目前是论文提出的方案,并非已经实施的制度。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    学者联署「理解审计」提案:为递归自改进 AI 设安全闸门

    Ronald Bodkin、Bahrad Sokhansanj 与 Gillian Hadfield 发布论文,提出以「理解审计」机制为递归自改进 AI 增设安全闸门。开发者须向独立审计师证明其真正理解所构建的系统,否则相关制品的开发与发布将被推迟,必要时可暂停并撤销发布;Thomas Dietterich 联署并警告,公司间竞赛正把行业推向不安全的轨道。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。