研究者提议用归因图统计跨提示电路激活

研究者 burny_tech 提出一种模型可解释性研究方向：利用 Anthropic 的归因图，统计因泛化而形成的常用电路在不同提示族中的激活概率，以预测模型输出特定行为的可能性。 该构想还可结合其他可解释性技术与神经元层面的分析，并用于研究 grokking 模加玩具模型中的三角函数算法；目前属于研究提案，尚非已经完成或验证的实验结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。