归零16个神经元显著压低特定回复概率

Sauers演示机制可解释性实验：将负责生成特定回复开头的16个神经元逐个归零后，该回复出现概率从72%降至约1/5200万，下降约83万倍；归零同等数量的随机神经元则几乎没有影响。 结果表明，少量神经元与特定回复生成存在较强关联，精准干预这些神经元可显著压低该回复出现的可能性；实验针对的是特定回复开头，并非模型所有输出。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。