跳到正文
热点事件持续更新

模型微调出现人类评分与基准分歧

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

一项模型微调研究显示,DeepSeek 训练的模型人类评分提高172分,但基准测试仅提高4分;MiniMax 训练的模型人类评分提高68分,基准测试反而下降18分。研究团队据此认为,仅优化基准测试并不能可靠代表模型能力改善,人类反馈带来的收益更显著。 研究中,使用监督微调(SFT)在基准测试上取得高分的V4.1 Flash,也未在人类评估中通过,表明自动基准与人工评价可能对同一模型给出不同结论。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. AGI Hunt
    SFT 刷分翻车:DeepSeek 微调模型人类评分涨 172 分,基准仅涨 4 分

    一项模型微调研究显示,DeepSeek 训练的模型在人类评分上提升 172 点,但基准测试仅提升 4 点。MiniMax 训练的模型人类评分涨 68 点,基准反而下降 18 点;V4.1 Flash 使用 SFT 刷满 benchmark 后仍在人类评估中失败。研究认为,单纯追求 benchmark 刷分并不可靠,人类反馈带来的收益更显著。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。