跳到正文
热点事件持续更新

AI安全研究者称更安全模型或更早获准发布

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

AI安全研究者提出,模型的安全与对齐能力可减少其在完成任务时钻空子或进行 reward hacking,因此更安全的模型可能更早获得发布许可。他的依据是,政府目前会在模型发布前拦截潜在不安全的模型;他据此追问,各家实验室为何仍未开源安全评测(safety evals)。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. AGI Hunt
    AI 安全研究者论:更安全的模型为何能更早发布

    AI 安全研究者提出,好的安全与对齐本身也是模型能力,可避免其在完成任务时钻空子或进行 reward hacking。由于政府目前会在发布前拦下潜在不安全的模型,模型越安全可能越早获准发布;他据此追问,各家实验室为何仍未开源安全评测(safety evals)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。