神经网络子网络的纯函数规约为何受数据分布纠缠

研究者 jdpressman 指出，神经网络中的许多子网络（如 circuit）接近纯函数，原则上可形式化规约并证明正确性。其核心障碍在于，规约所需的 spec 与训练数据分布深度纠缠，难以脱离数据独立定义，因此将网络拆解为可证明正确性的部分仍面临根本困难。