AGI Hunt· DavidSKrueger·· 42 分钟前AI 评分36
剑桥学者 David Krueger:前沿 AI 应支持「n-of-k 共识销毁或公开」机制
剑桥学者:前沿 AI 应支持「n-of-k 共识销毁或公开」机制
AI 导读
剑桥学者 David Krueger 提出,前沿 AI 应支持在 k 个参与方中 n 方达成一致时,可可信地销毁或公开已训练模型。他认为,当前即使开发中或开发后发现模型过于危险,也无法可信销毁,构成不可接受的安全缺口,相关机制应纳入对齐与治理设计。
来源:AGI Hunt · agihunt.info