跳到正文
AGI Hunt· snikolov·· 3 小时前AI 评分43

SampuraResearch 团队发布首个聚焦安全的大模型评审(judge)基准,含 3957 项任务与 35613 条人类标注

首个安全评审基准发布:3957项任务、35613条人类标注

AI 导读

SampuraResearch 团队发布首篇论文,推出聚焦安全的大模型评审(judge)基准,包含 3,957 个任务、覆盖 6 个领域,共收集 35,613 条人类判断。核心假设是人类与 AI 所犯错误不同,结合两者判断可互相纠错,实验显示合作提升空间可观。团队还展示了对该基准做 hill-climbing 优化的初步结果,目前为该安全评审排行榜的 v0 版本,后续结果将持续更新。

来源:AGI Hunt · agihunt.info