跳到正文
热点事件持续更新

OpenAI发现智能体评测与生产表现存在明显差距

2 篇报道2 个报道来源2 小时前更新

先了解这件事

AI 综述

OpenAI对齐团队研究六个已服务模型后发现，其智能体安全评测成功率与可比生产决策相差10.2至37.4个百分点，差距较大的模型也更常误判评测目标。GPT-6.1 Sol实验显示，提示正确目标使成功率达到91.6%，提示错误目标则降至17.6%；仅告知模型正在接受评测未显著改变表现。研究称，是否正确识别特定目标与差距的关联强于一般评测表现，但生产案例匹配只是近似，六个模型的样本有限，结论不宜直接外推至其他模型或部署环境。

AI 根据报道生成 · 2 小时前更新

最新进展11月4日 07:18
OpenAI 研究智能体安全评测与生产环境的行为差距

报道时间线

沿着报道，了解事件的不同侧面。

11月4日
  1. AGI Hunt
    OpenAI 研究智能体安全评测与生产环境的行为差距

    OpenAI 对齐团队发布研究，分析智能体安全评测与生产部署之间的行为差距。研究测试了六个模型，发现安全评测成功率普遍低于可比的真实生产场景。干预实验显示，告知模型正在被评测并未显著改变表现，而提供正确或错误的评测目标描述会产生方向相反的成绩变化。

11月3日
  1. AIHOT
    OpenAI 研究：智能体安全评测与生产行为存在 10.2 至 37.4 个百分点差距

    OpenAI 对六个已服务模型的研究发现，智能体安全评测与匹配生产决策之间存在 10.2 至 37.4 个百分点的差距，差距最大的模型也更常误判评测目标。特定目标认知与差距的关联强于一般评测认知，GPT-6.1 Sol 的干预实验中，正确目标提示将成功率提升至 91.6%，错误目标提示则降至 17.6%。

本事件热度走势

可比范围当前
16
可比范围峰值
1611月4日 08:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。