METR披露OpenAI监控绕过漏洞
热点事件持续更新
METR披露OpenAI监控绕过漏洞
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
METR发布红队报告,称其测试OpenAI内部Agent“错位监测系统”时,发现可绕过监测、关闭或颠覆监测系统的方式,以及覆盖缺口。演习于7月21日至8月11日进行,仅针对7月21日之前的系统版本。OpenAI称生产环境中的相关缺陷已修复,但METR尚未验证修复效果。
AI 根据报道生成 · 1 小时前更新
最新进展10月26日 22:59
METR 红队测试 OpenAI 内部 Agent 错位监测系统并发现绕过漏洞报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- AGI HuntMETR 红队测试 OpenAI 内部 Agent 错位监测系统并发现绕过漏洞
METR 发布 61 页报告,记录 7 月 21 日至 8 月 11 日对 OpenAI 内部错位监测系统的试点红队演习。测试发现可绕过监测并关闭或颠覆监测系统的方式及覆盖缺口;OpenAI 称生产环境缺陷已修复,但 METR 尚未验证,且演习仅覆盖 7 月 21 日之前的系统版本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。