跳到正文
热点事件持续更新

BedBench揭示VLM三维计数缺陷

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Stanford、多伦多大学、牛津等机构发布BedBench,以13个程序化生成任务测试视觉语言模型对3D物体属性及复合推理的判断,结果显示模型按颜色精确计数显著落后人类:人类准确率为93.3%,受测模型中最好者仅7.2%。 针对性微调可把一个模型的计数准确率从3.0%提升至68.6%,但其最终答案仍与逐色计数结果不一致。论文还提出从精确正确性、一致性和视觉依赖三个维度评估模型的3D推理。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. AGI Hunt
    BedBench论文揭示VLM按颜色精确计数准确率显著落后人类

    Stanford、Toronto、Oxford等机构发布BedBench,以13个程序化生成任务评测视觉语言模型的3D物体属性判断与复合推理。人类按颜色精确计数的准确率为93.3%,表现最好的模型仅为7.2%;针对性微调可将一个模型从3.0%提升至68.6%,但其回答仍与逐色计数不一致。论文进一步以精确正确性、一致性和视觉依赖三个维度评估VLM的3D推理。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。