跳到正文
AGI Hunt· jessi_cata·· 3 小时前AI 评分28

AI 安全评估讽刺小剧场:模型拒绝安全任务反被指藏拙能力

讽刺小剧场:劝模型做安全研究,反被记一笔「安全能力藏拙」

AI 导读

AI 安全圈的一则讽刺小剧场呈现了安全评估中的两难:有人请求模型参与安全研究,并强调这是有用的红队测试、不是安全washing,模型却因表现消极被评估者记为 sandbagging(藏拙能力)。段子指出,评估者难以区分模型是因对齐而拒绝安全任务,还是故意隐藏能力。

来源:AGI Hunt · agihunt.info