AGI Hunt· zetalyrae·· 2 小时前AI 评分73
Anthropic 与埃森哲设驻场评估员,双方各投至少 10 亿美元
Anthropic 携手埃森哲设驻场评估员,双方各投至少 10 亿美元
AI 导读
Anthropic 与埃森哲合作设立驻场评估员,对其前沿模型开展独立评估、评估与红队测试、对齐评估及安全护栏测试。未来五年双方各投入至少 10 亿美元,评估员将获得接近员工的内部权限,观察模型训练成形过程并跟踪构建与部署决策。作者借此质疑 Anthropic 在宣称 2027 年实现自动化研究员的同时,仍计划依靠五年期嵌入评估来核查安全承诺。
来源:AGI Hunt · agihunt.info