RL模型分析神经元出现确认偏误

williawa分享了一项用RL训练模型分析神经元激活模式的实验，结果显示模型存在严重确认偏误：看到“cat”标记激活后，便把全部查询预算用于猫，认定发现了“猫神经元”，但最终得分很差。 实验让“学生”模型描述神经元激活模式，再由另一个模型根据描述预测新样本中的激活情况，并以预测准确度作为奖励。模型对以“-ars”结尾的动词也表现出特定追踪，roars、soars的激活最强达到5.4。

AI 根据报道生成 · 31 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。