跳到正文
TechCrunch AI· Rebecca Bellan·· 51 分钟前AI 评分67

OpenAI 将嵌入 Apollo Research 研究员开展 AI 颠覆行为评估试点

OpenAI will embed Apollo researchers to investigate AI subversion

AI 导读

OpenAI 将把 6 名 Apollo Research 安全评估员嵌入公司内部,试点调查模型在训练、评估和内部部署中尝试规避对齐或控制机制的行为。首批访问范围包括相关训练代码与数据集、强化学习 rollout、推理轨迹和奖励,以及查询中间模型检查点的能力,但 OpenAI 仍可基于技术可行性、安全风险或知识产权限制披露内容。

来源:TechCrunch AI · techcrunch.com