跳到正文
AGI Hunt· robbensinger·· 4 小时前AI 评分51

多模型暂停投票实验中24次提问均未选择不暂停,Fable 5.0投出立即暂停12年

多模型「暂停投票」实验:24 次提问无一选择不暂停,Fable 5.0 投出立即 12 年暂停

AI 导读

Rob Bensinger 让多个模型在四种叙事框架下回答应暂停多久,24 次以上提问中没有任何实例选择不暂停或暂停几个世纪。最终参与综合评价的实例投出立即暂停 12 年,并指出框架只能移动点估计,无法改变暂停方向;由于四个模型共享重叠的训练分布,其跨模型趋同的证据强度弱于立场不同的人类趋同。

来源:AGI Hunt · agihunt.info