AGI Hunt· Miles_Brundage·· 3 小时前AI 评分63
AVERI 独立审计 Amazon 内部 AI 安全评测，Amazon 据此改进测试流程
AI 导读
AVERI 与 Amazon 合作完成试点项目，独立评审了 Amazon 内部用于模型安全评估的评测质量，并公开审计报告。AVERI 抽查了 800 条 prompt 样本，确认攻击主题具有多样性，同时指出部分攻击手法较简单、只测试安全过滤器而未深入模型推理，以及评估信号质量等问题。Amazon 据此改变未来模型的测试方式，该案例也推动了第三方 meta-evaluation 标准化探索。
来源：AGI Hunt · agihunt.info