跳到正文
热点事件持续更新

Scale AI 提出 READY 智能体上线评测框架

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Scale AI 提出企业级智能体部署评测框架 READY,以达到目标可靠率时仍需人工审核的比例,衡量智能体能否安全上线,而非只看自主回答准确率。 Scale AI 对16个智能体系统和750个案例进行临床审计。两个自主准确率分别为72.8%和72.5%的智能体,在达到76%可靠率时仍分别需要39.2%和29.6%的人工审核;后者更善于识别自身无法可靠回答的问题。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. AGI Hunt
    Scale AI 发布 READY 框架,比较 agent 部署中的人工审核负担

    Scale AI 提出企业级 agent 部署评测框架 READY,以达到目标可靠率所需的人工审核比例衡量 agent 是否具备上线能力。对 16 个 agent 系统和 750 个案例的临床审计显示,自主准确率分别为 72.8% 和 72.5% 的两个 agent,在达到 76% 可靠率时需要 39.2% 和 29.6% 的人工审核,后者更善于识别自身不可靠的回答。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。