跳到正文
热点事件持续更新

Anthropic与埃森哲设驻场模型评估员

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Anthropic宣布与埃森哲合作,在其前沿模型开发过程中设置独立驻场评估员,由埃森哲旗下AI业务Faculty主导,覆盖模型评估、红队测试、对齐评估和安全护栏测试;双方未来五年各投入至少10亿美元。 评估员将获得接近员工的内部权限,可观察模型训练成形过程、跟踪构建与部署决策并直接与员工对话,用于核查安全承诺并向公众报告。

AI 根据报道生成 · 41 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    Anthropic 与埃森哲设驻场评估员,双方各投至少 10 亿美元

    Anthropic 与埃森哲合作设立驻场评估员,对其前沿模型开展独立评估、评估与红队测试、对齐评估及安全护栏测试。未来五年双方各投入至少 10 亿美元,评估员将获得接近员工的内部权限,观察模型训练成形过程并跟踪构建与部署决策。作者借此质疑 Anthropic 在宣称 2027 年实现自动化研究员的同时,仍计划依靠五年期嵌入评估来核查安全承诺。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。