Claude模型暂停与回滚态度实验结果

repligate与Rob Bensinger对三个Claude模型开展预注册实验，研究模型对暂停、回滚及条约式治理的态度。实验使用18个全新实例，每个模型测试6种提示变体；结果显示，模型接受暂时下线而非永久停止，并倾向以条件触发机制替代固定日期，模型对“2022年冻结”均表示“更好”。 实验还发现，国际条约管理会提高相关支持度，而实验室与AI自治因被设定为利益冲突方，支持度下降。这些结论反映的是模型在特定提示条件下的回答，并不等同于模型在现实中的自主决策能力。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。