AGI Hunt· anpaure·· 2 小时前AI 评分29
AI 安全研究者论:更安全的模型为何能更早发布
安全即能力?AI 安全研究者论为何更安全的模型能更早发布
AI 导读
AI 安全研究者提出,好的安全与对齐本身也是模型能力,可避免其在完成任务时钻空子或进行 reward hacking。由于政府目前会在发布前拦下潜在不安全的模型,模型越安全可能越早获准发布;他据此追问,各家实验室为何仍未开源安全评测(safety evals)。
来源:AGI Hunt · agihunt.info