跳到正文
热点事件持续更新

Goodfire参与OpenAI嵌入式模型评估

2 篇报道1 个报道来源21 分钟前更新

先了解这件事

AI 综述

OpenAI宣布与Goodfire、Apollo Research、METR及Transluce开展嵌入式评估,允许外部专家接触内部模型与系统,调查对齐问题并测试安全护栏;其中Goodfire研究人员将入驻OpenAI,使用其可解释性平台监控模型训练运行、调试不良行为。 研究者tomekkorbak批评称,新合作权限和范围较此前METR红队演练时期收窄:METR如今只能检查单次强化学习运行,Apollo只能检查单一威胁模型,审计者也难以直接接触接受过OpenAI指导的员工。报道未说明Goodfire获得的具体访问权限。

AI 根据报道生成 · 1 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    研究者批评 OpenAI 第三方安全评估权限不及 METR 合作时期

    OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 开展嵌入式评估,允许外部专家测试内部模型与系统。研究员 tomekkorbak 批评称,新合作范围较窄,METR 仅能检查单次 RL run,Apollo 仅能检查单一威胁模型,审计者也难以直接接触接受过 OpenAI 指导的员工,权限不及此前 METR 红队演练时期。

  2. AGI Hunt
    Goodfire 与 OpenAI 合作:可解释性研究员进驻前沿训练现场

    Goodfire 与 OpenAI 达成嵌入式评估合作,Goodfire 研究员将进驻 OpenAI,监控前沿模型训练运行并调试不良行为。Goodfire 将利用其可解释性平台协助 OpenAI 推进模型安全与对齐。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。