AGI Hunt· BethMayBarnes·· 2 小时前AI 评分66
METR 开源 AI Agent 实验室评测平台
METR 开源 AI Agent 评测平台,直面前沿模型红队测试难题
AI 导读
METR 研究员 spiegelmock 宣布开源其实验室评测平台,用于安全评测高能力 Agent。平台聚焦沙箱隔离、集群中运行任意 Agent、前沿模型红队测试,以及低成本监控推理输出中的不良内容等问题,团队还计划发布更多 AI Agent 安全实验结果。
来源:AGI Hunt · agihunt.info