AGI Hunt· opUserZero·· 2 小时前AI 评分71
一行权重编辑修复 Spark-X2.6 推理死循环,1.7B 模型循环率降 92.9%
改一行权重修复推理死循环:1.7B 模型循环率降 92.9%、GSM8K 翻倍
AI 导读
一名开发者通过直接编辑输出头的一行权重,修复了 Spark-X2.6 模型在得出答案后反复推导的推理死循环,未进行训练或修改采样参数。12 seeds受控基准中,4B模型循环率从0.750降至0.3125,1.7B模型从0.875降至0.0625,后者GSM8K由0.200升至0.433。
来源:AGI Hunt · agihunt.info