iamtrask：Transformer 权重是概念检测器，可解释性被规模换掉

iamtrask 在长文中提出，Transformer 权重矩阵的每一列向量本质上都是一个并行的概念检测器，网络前段检测低层概念，后段再将其组合成更高层概念。该框架可解释大模型为何部分像人、部分不像人且充满涌现怪癖，但大量概念仍然缺失，模型规模也在稀释其可解释性。