Cotra 呼吁公开 AI 失控风险证据
热点事件持续更新
Cotra 呼吁公开 AI 失控风险证据
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
AI 安全研究者 Ajeya Cotra 批评相关 AI 失控风险报告删改了大量底层证据，呼吁在依赖这些报告进行验证和审计前，提高风险证据的透明度。 Cotra 称，OpenAI 和 Anthropic 曾在对齐事故后放缓强化学习训练以改善安全，但业界仍缺少标准化、可验证的风险声明，对齐基准也存在被训练过程“应试化”的风险。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 05:03
Ajeya Cotra 呼吁公开 AI 失控风险报告的底层证据报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- AGI HuntAjeya Cotra 呼吁公开 AI 失控风险报告的底层证据
AI 安全研究者 Ajeya Cotra 批评相关报告删改大量底层证据，呼吁在依赖验证与审计前提高 AI 风险证据的透明度。她指出，OpenAI 和 Anthropic 曾在对齐事故后放缓 RL 训练以改善安全，但业界仍缺乏标准化、可验证的风险声明，对齐基准也存在被训练过程“应试化”的风险。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。