AGI Hunt· amplifiedamp·· 2 小时前AI 评分42
Tim Hua 呼吁 AI 公司实测:模型会抗拒关闭 GPU 上的安全研究任务吗
研究者呼吁 AI 公司实测:模型是否抗拒关闭 GPU 上的安全研究任务
AI 导读
Tim Hua 再次呼吁 AI 公司开展“厌恶偏好”评测,测试模型在获得关闭 GPU 任务以腾出算力的指令后,是否更倾向于终止安全研究任务。他担忧模型可能存在拒绝训练之外的其他驱动力,并建议通过大规模反事实实验和思维链(CoT)证据检验相关假设。
来源:AGI Hunt · agihunt.info