跳到正文
热点事件持续更新

神经检索测试集需定期更新以避免过拟合

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Andrew Parry 等人重新标注 TREC 2019 Deep Learning track 的相关性判断,研究神经检索测试集的“保质期”。论文发现,标注员分歧仍未改变系统排名,但部分模型在新标注下性能显著下降,另有模型已达到人类标注员作为排序者的水平;因此,为追求最优效果而过拟合单一相关性解释的测试集,需要定期更新。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. AGI Hunt
    arXiv 论文:测试集会过期,神经检索已逼近人类标注员水平

    Andrew Parry 等人的论文研究神经检索测试集的相关性标注与“保质期”,并重新标注 TREC 2019 Deep Learning track 的相关性判断。研究发现,标注员分歧仍不影响系统排名,但部分模型在新标注下性能显著下降,部分模型已达到人类标注员作为排序者的水平;测试集需定期更新以避免过拟合单一相关性解释。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。