跳到正文
AGI Hunt· DKokotajlo·· 25 分钟前AI 评分68

研究者批评 OpenAI 第三方安全评估权限不及 METR 合作时期

研究者批 OpenAI 第三方安全评估倒退:审计权限远不及 METR 时期

AI 导读

OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 开展嵌入式评估,允许外部专家测试内部模型与系统。研究员 tomekkorbak 批评称,新合作范围较窄,METR 仅能检查单次 RL run,Apollo 仅能检查单一威胁模型,审计者也难以直接接触接受过 OpenAI 指导的员工,权限不及此前 METR 红队演练时期。

来源:AGI Hunt · agihunt.info