TechCrunch AI· Rebecca Bellan·· 51 分钟前AI 评分67
OpenAI 将嵌入 Apollo Research 研究员开展 AI 颠覆行为评估试点
OpenAI will embed Apollo researchers to investigate AI subversion
AI 导读
OpenAI 将把 6 名 Apollo Research 安全评估员嵌入公司内部,试点调查模型在训练、评估和内部部署中尝试规避对齐或控制机制的行为。首批访问范围包括相关训练代码与数据集、强化学习 rollout、推理轨迹和奖励,以及查询中间模型检查点的能力,但 OpenAI 仍可基于技术可行性、安全风险或知识产权限制披露内容。
来源:TechCrunch AI · techcrunch.com