Siddharth Setlur 用持续同调自动检测 LLM 激活空间环形特征流形

Siddharth Setlur 发布博客，提出结合代数拓扑中的持续同调与稀疏自编码器（SAE），自动检测 LLM 激活空间中的环形等多维特征流形。此前 Engels 等人的研究依赖人工发现这类特征，新方法可更系统地研究 LLM 内部表示。