rao2z 分析 Chain of Thought 的可解释性与忠实性之别

rao2z 指出，业界常将 Chain of Thought 同时用于可解释性和忠实性两个语境，但两者并不相同。模型的事后合理化或许适合可解释性研究，却可能损害忠实性，因为 CoT 未必真实反映模型的内部推理过程。