学者提案为递归自改进AI设理解审计闸门
热点事件持续更新
学者提案为递归自改进AI设理解审计闸门
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Ronald Bodkin、Bahrad Sokhansanj与Gillian Hadfield发布论文,提出对递归自我改进的AI实行“理解审计”:开发者须向独立审计师证明自己真正理解所构建的系统,否则应推迟依赖相关制品的开发与发布,必要时暂停并撤销发布。 该提案针对AI已编写前沿实验室大部分代码所带来的风险;Thomas Dietterich联署并警告,公司间竞赛正把行业推向不安全的轨道。审计机制目前是论文提出的方案,并非已经实施的制度。
AI 根据报道生成 · 1 小时前更新
最新进展11月19日 04:09
学者联署「理解审计」提案:为递归自改进 AI 设安全闸门报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AGI Hunt学者联署「理解审计」提案:为递归自改进 AI 设安全闸门
Ronald Bodkin、Bahrad Sokhansanj 与 Gillian Hadfield 发布论文,提出以「理解审计」机制为递归自改进 AI 增设安全闸门。开发者须向独立审计师证明其真正理解所构建的系统,否则相关制品的开发与发布将被推迟,必要时可暂停并撤销发布;Thomas Dietterich 联署并警告,公司间竞赛正把行业推向不安全的轨道。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。