单行权重编辑缓解模型推理死循环

一名开发者直接修改 Spark-X2.6 输出头的一行权重，在不训练模型、不调整采样参数的情况下，修复了模型答完问题后反复出现“but wait…”的推理死循环。12 个 seed 的受控测试显示，4B 模型循环率从 0.750 降至 0.3125，1.7B 模型从 0.875 降至 0.0625，后者 GSM8K 成绩从 0.200 升至 0.433。 相关 GGUF、增量权重和仅用 CPU 的复现脚本已发布至 Hugging Face；开发者称，该方法针对的是模型自身推理循环，智能体调用工具造成的循环属于另一类问题，尚未解决。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。