跳到正文
热点事件持续更新

Epoch AI评审OSWorld测量局限

1 篇报道1 个报道来源58 分钟前更新

先了解这件事

AI 综述

Epoch AI发布对计算机操作基准OSWorld的评审,认为该基准任务偏简单、结果不稳定,难以准确衡量模型的GUI操作能力。 评审称,361个任务中约15%可仅用终端完成,约30%可绕过GUI;约10%的指令仍在修改,约10%依赖实时互联网数据,因此跨时间比较和外部效度受到限制。

AI 根据报道生成 · 28 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. AGI Hunt
    Epoch AI 评审 OSWorld:任务简单且不稳定,GUI 能力难测准

    Epoch AI 发布对计算机使用基准 OSWorld 的评审,指出其难以准确衡量模型的 GUI 操作能力。361 个任务整体偏简单,且约 15% 只需终端、另有 30% 可绕过 GUI;约 10% 的指令仍在持续修改,另有约 10% 任务依赖实时互联网数据,跨时间对比和外部效度因此受到影响。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。