跳到正文
AGI Hunt· BethMayBarnes·· 2 小时前AI 评分66

METR 开源 AI Agent 实验室评测平台

METR 开源 AI Agent 评测平台,直面前沿模型红队测试难题

AI 导读

METR 研究员 spiegelmock 宣布开源其实验室评测平台,用于安全评测高能力 Agent。平台聚焦沙箱隔离、集群中运行任意 Agent、前沿模型红队测试,以及低成本监控推理输出中的不良内容等问题,团队还计划发布更多 AI Agent 安全实验结果。

来源:AGI Hunt · agihunt.info