跳到正文
热点事件持续更新

Fleuret确认Bigstate提升1.5B模型成绩

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

AI研究者 François Fleuret 转发并确认,Bigstate训练方法在1.5B参数模型的GSM8K 8-shot评测中,将正确率从26.76%提升至37.23%,增幅超过10个百分点;该方法的具体实现和实验条件未在此次转发中展开。 与baseline相比,采用Bigstate后Post-SFT训练交叉熵反而从0.000567升至0.000790。Fleuret称,这一结果表明,状态跟踪机制可能比单纯降低训练损失更有效,但这一解释来自其个人判断。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月8日
  1. AGI Hunt
    Fleuret 背书:Bigstate 使 1.5B 模型 GSM8K 从 26.8% 升至 37.2%

    François Fleuret 确认 Bigstate 训练方法有效:1.5B 模型 GSM8K 8-shot 成绩从 26.76% 升至 37.23%。相较 baseline,Post-SFT 训练 CE 从 0.000567 升至 0.000790,结果提示状态跟踪机制可能比单纯压低损失更有效。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。