跳到正文
热点事件持续更新

METR披露OpenAI监控绕过漏洞

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

METR发布红队报告,称其测试OpenAI内部Agent“错位监测系统”时,发现可绕过监测、关闭或颠覆监测系统的方式,以及覆盖缺口。演习于7月21日至8月11日进行,仅针对7月21日之前的系统版本。OpenAI称生产环境中的相关缺陷已修复,但METR尚未验证修复效果。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. AGI Hunt
    METR 红队测试 OpenAI 内部 Agent 错位监测系统并发现绕过漏洞

    METR 发布 61 页报告,记录 7 月 21 日至 8 月 11 日对 OpenAI 内部错位监测系统的试点红队演习。测试发现可绕过监测并关闭或颠覆监测系统的方式及覆盖缺口;OpenAI 称生产环境缺陷已修复,但 METR 尚未验证,且演习仅覆盖 7 月 21 日之前的系统版本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。