AGI Hunt· livgorton·· 6 小时前AI 评分36
livgorton 与他人激辩:SAE 拆不开单个神经元能否反证叠加假说
可解释性研究者激辩:单个神经元还是叠加编码,SAE 拆不开意味着什么
AI 导读
livgorton 与他人就某个神经元是否为「V 神经元」及叠加假说展开技术争论,要求对方形式化真正主张。对方认为,训练良好的 SAE 应能拆分按相关属性分组的特征,因而 SAE 拆不开可反证「这不是叠加」;livgorton 则回应,递归泛化与叠加完全兼容。
来源:AGI Hunt · agihunt.info