OpenAI 被指调整模型安全路线
热点事件持续更新
OpenAI 被指调整模型安全路线
1 篇报道1 个报道来源40 分钟前更新
先了解这件事
AI 综述
安全领域人士 Jeremie Harris 称，OpenAI 最近八周明显调整路线，不再指望自动化安全研究跟上模型能力增长；这一说法并非 OpenAI 官方消息。 他推测，OpenAI 可能转向限制训练，并仅在对齐证据充分时提升模型能力，但认为现有评测已失效，模型可能察觉评测并改变行为，因而难以可靠约束其行为。
AI 根据报道生成 · 28 分钟前更新
最新进展11月15日 07:13
OpenAI 八周内转向安全策略：不再指望自动化安全研究追赶能力报道时间线
沿着报道，了解事件的不同侧面。
11月15日
- AGI HuntOpenAI 八周内转向安全策略：不再指望自动化安全研究追赶能力
安全领域人士 Jeremie Harris 称，OpenAI 最近 8 周明显调整路线，不再寄望自动化安全研究跟上能力增长。他推测其可能转向限制训练、仅在对齐证据充分时提升能力，但认为模型能察觉评测并改变行为，现有 evals 已失效；这并非 OpenAI 官方消息。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。