跳到正文
热点事件持续更新

作者呼吁大模型基准设置公开与私有双测试集

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

一位作者提出,大语言模型基准测试可借鉴 Kaggle 的防泄漏做法,设置公开测试集和私有测试集,并通过 API 运行任务,以降低训练数据污染风险。方案要求私有集只报告汇总统计,公开集报告统计信息并最多公开 5 条轨迹;其目标是提高基准评测的可信度。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. AGI Hunt
    仿 Kaggle 防数据泄漏:作者呼吁基准测试设公开与私有双测试集

    一位作者提出基准测试应借鉴 Kaggle 的防泄漏做法,设立公开集与私有集,两者均通过 API 任务运行以防数据泄漏。方案规定私有集只报告汇总统计,公开集报告统计并最多公开 5 条轨迹,核心主张是「对数据泄漏说不」。该方案面向大语言模型基准的评测可信度,通过隐藏私有测试集降低训练数据污染风险。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。