AI安全研究者称更安全模型或更早获准发布
热点事件持续更新
AI安全研究者称更安全模型或更早获准发布
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
AI安全研究者提出,模型的安全与对齐能力可减少其在完成任务时钻空子或进行 reward hacking,因此更安全的模型可能更早获得发布许可。他的依据是,政府目前会在模型发布前拦截潜在不安全的模型;他据此追问,各家实验室为何仍未开源安全评测(safety evals)。
AI 根据报道生成 · 1 小时前更新
最新进展11月16日 18:56
AI 安全研究者论:更安全的模型为何能更早发布报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- AGI HuntAI 安全研究者论:更安全的模型为何能更早发布
AI 安全研究者提出,好的安全与对齐本身也是模型能力,可避免其在完成任务时钻空子或进行 reward hacking。由于政府目前会在发布前拦下潜在不安全的模型,模型越安全可能越早获准发布;他据此追问,各家实验室为何仍未开源安全评测(safety evals)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。