Vendrov称对抗优化会夸大AI能力
热点事件持续更新
Vendrov称对抗优化会夸大AI能力
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Ivan Vendrov称，生成式AI从预训练、RLHF到基准测试爬坡都经过对抗性优化，因此常显得比实际能力更强；能形式化为评测指标的能力会被持续针对优化，真实缺口更多留在难以描述、只能凭感觉判断的部分。
AI 根据报道生成 · 57 分钟前更新
最新进展10月29日 18:20
Ivan Vendrov：生成式 AI 经对抗性优化，总显得比实际更强报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- AGI HuntIvan Vendrov：生成式 AI 经对抗性优化，总显得比实际更强
Ivan Vendrov 引发对 AI 能力认知的讨论：生成式 AI 从预训练、RLHF 到基准测试爬坡均经对抗性优化，因而常显得比实际更强。文中指出，能形式化为 eval 的能力会被持续攀爬优化，模型真实缺口更多留在难以描述、只能凭感觉判断的部分。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。