跳到正文
热点事件持续更新

Purtell主张分离训练与评测数据

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Josh Purtell主张,RL 训练数据与模型评测数据应按两套标准分别设计,不能混用。他认为,训练场景可容忍一定方差以获得更干净的策略梯度,而评测需要控制方差,才能可靠分析模型表现。 他批评现有评测集每个领域仅约10个任务,认为任务过少带来的高方差,可能使评测难以准确区分模型能力。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. AGI Hunt
    Josh Purtell:训练数据与评测数据需要两套严谨标准

    Josh Purtell 在 11 月 2 日连发多条帖子,主张 RL 训练数据与模型评测数据应采用两套严谨标准,不能混用。他认为训练场景可接受方差以获得干净策略梯度,评测则需控制方差,否则结论难以分析。其批评的评测集每个领域仅约 10 个任务,可能因高方差难以可靠区分模型能力。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。