Yoav Goldberg 晒 InterpBench：机制可解释性评测基准已现成可用

Yoav Goldberg 在讨论中分享了已存在的机制可解释性评测基准 InterpBench。该基准由 Rohan Gupta、Thomas Kwa 等人构建，包含半合成但真实的 Transformer 模型及其已知内部电路，可用于验证电路发现技术。论文提出 Strict IIT（SIIT）训练方法，并在 Tracr 生成的稀疏 Transformer 上验证。