Tim Hua 呼吁实测模型抗拒安全任务

AI 研究者 Tim Hua 呼吁 AI 公司开展并扩大“厌恶偏好”评测，检验模型是否会为腾出 GPU 算力而倾向终止安全研究任务；目前这是评测倡议，尚未给出相关模型已出现抗拒的结论。 他建议向模型下达关闭 GPU 任务以运行新实验的指令，观察其选择，并通过大规模反事实实验和思维链证据检验假设，以判断模型是否存在训练之外的驱动力。

AI 根据报道生成 · 58 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。