跳到正文
AGI Hunt· francoisfleuret·· 2 小时前AI 评分44

Fleuret 背书:Bigstate 使 1.5B 模型 GSM8K 从 26.8% 升至 37.2%

AI 导读

François Fleuret 确认 Bigstate 训练方法有效:1.5B 模型 GSM8K 8-shot 成绩从 26.76% 升至 37.23%。相较 baseline,Post-SFT 训练 CE 从 0.000567 升至 0.000790,结果提示状态跟踪机制可能比单纯压低损失更有效。

来源:AGI Hunt · agihunt.info