跳到正文
热点事件持续更新

剑桥学者提议前沿AI共识销毁或公开机制

1 篇报道1 个报道来源38 分钟前更新

先了解这件事

AI 综述

剑桥学者 David Krueger 提出,前沿 AI 应支持一种“n-of-k”机制:当 k 个参与方中有 n 方达成一致时,可可信地销毁或公开已训练模型。按他的说法,当前即使开发中或开发后发现模型过于危险,也难以可信销毁,构成安全缺口,相关机制应纳入对齐与治理设计。

AI 根据报道生成 · 20 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    剑桥学者 David Krueger:前沿 AI 应支持「n-of-k 共识销毁或公开」机制

    剑桥学者 David Krueger 提出,前沿 AI 应支持在 k 个参与方中 n 方达成一致时,可可信地销毁或公开已训练模型。他认为,当前即使开发中或开发后发现模型过于危险,也无法可信销毁,构成不可接受的安全缺口,相关机制应纳入对齐与治理设计。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。