Anthropic 发文拆解模型计数任务的流形几何机制

Anthropic 旗下 Transformer Circuits Thread 发布可解释性新论文《When Models Manipulate Manifolds: The Geometry of a Counting Task》，研究模型执行计数任务时如何操控表征的流形几何结构。社区研究者 burnytech 追问模型何时会学到可读的精确算法，由此引发对机制可解释性的进一步讨论。