Goodfire参与OpenAI嵌入式模型评估
热点事件持续更新
Goodfire参与OpenAI嵌入式模型评估
2 篇报道1 个报道来源21 分钟前更新
先了解这件事
AI 综述
OpenAI宣布与Goodfire、Apollo Research、METR及Transluce开展嵌入式评估,允许外部专家接触内部模型与系统,调查对齐问题并测试安全护栏;其中Goodfire研究人员将入驻OpenAI,使用其可解释性平台监控模型训练运行、调试不良行为。 研究者tomekkorbak批评称,新合作权限和范围较此前METR红队演练时期收窄:METR如今只能检查单次强化学习运行,Apollo只能检查单一威胁模型,审计者也难以直接接触接受过OpenAI指导的员工。报道未说明Goodfire获得的具体访问权限。
AI 根据报道生成 · 1 分钟前更新
最新进展11月17日 07:25
研究者批评 OpenAI 第三方安全评估权限不及 METR 合作时期报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- AGI Hunt研究者批评 OpenAI 第三方安全评估权限不及 METR 合作时期
OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 开展嵌入式评估,允许外部专家测试内部模型与系统。研究员 tomekkorbak 批评称,新合作范围较窄,METR 仅能检查单次 RL run,Apollo 仅能检查单一威胁模型,审计者也难以直接接触接受过 OpenAI 指导的员工,权限不及此前 METR 红队演练时期。
- AGI HuntGoodfire 与 OpenAI 合作:可解释性研究员进驻前沿训练现场
Goodfire 与 OpenAI 达成嵌入式评估合作,Goodfire 研究员将进驻 OpenAI,监控前沿模型训练运行并调试不良行为。Goodfire 将利用其可解释性平台协助 OpenAI 推进模型安全与对齐。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。