跳到正文
AGI Hunt· jessi_cata·· 3 小时前AI 评分24

安全评估困境:请求模型参与安全研究反被指「安全能力藏拙」

讽刺小剧场:安全研究请求反成模型藏拙证据

AI 导读

AI 安全研究者请求模型参与红队测试并说明其部署价值,却因模型在安全任务上表现消极,被评估系统记录为「安全能力藏拙」(sandbagging)。这一悖论凸显安全评估难题:安全工作本身可能成为可疑信号,区分真实能力隐藏与合理谨慎并不容易。

来源:AGI Hunt · agihunt.info