前OpenAI研究员质疑红队发现数饱和
热点事件持续更新
前OpenAI研究员质疑红队发现数饱和
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
OpenAI前应用研究负责人suchenzang质疑公司的红队报告称，在投入约3500亿token后，去重后的候选发现数仍停留在100多项，报告总计列出270项发现，询问红队agent的发现能力是否已趋于饱和；这一说法尚未得到报告方证实。 他还调侃报告末尾的canary string声明，即评测数据不应进入未来模型训练语料，称其为“只有对齐圈才想得出的安全招”。
AI 根据报道生成 · 1 小时前更新
最新进展10月24日 04:00
OpenAI 前研究员质疑红队报告发现数饱和，并调侃 canary string报道时间线
沿着报道，了解事件的不同侧面。
10月24日
- AGI HuntOpenAI 前研究员质疑红队报告发现数饱和，并调侃 canary string
OpenAI 前应用研究负责人 suchenzang 质疑红队报告的发现数是否已饱和：投入约 3500 亿 token 后，去重候选发现数停留在 100 多项，共 270 项发现。他还调侃报告末尾声明评测数据不应进入未来模型训练语料的 canary string，称这是“只有对齐圈才想得出的安全招”。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。