研究者称机制可解释性无法真正解决

AestherML研究者断言，机制可解释性无法真正解决大模型内部机制问题。其依据是，人类注意力一次只能处理约三个概念，而Mythos等大模型内部包含数万亿个概念，规模差距使完整分析难以实现；部分概念还涉及人类无法理解的物理抽象，加上模型需要持续学习，分析难度会进一步增加。因此，该作者主张把对齐资源优先用于确保奖励正确，而不是依赖训练后的消融实验和稀疏自编码器（SAE）来管理模型。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。