跳到正文
AGI Hunt· CatAstro_Piyush·· 3 小时前AI 评分31

可解释性圈明日直播教程:从残差流特征方向到模型去审查实操

AI 导读

可解释性研究者预告明日直播实操教程,讲解如何转向语言模型并定位其内部特征。课程涵盖残差流特征方向、模型去审查、单义神经元、自动可解释性方法及 Transformer 内部机制。配图以第 7 层的“tomato neuron”为例,展示单一神经元在不同 prompt 下稳定触发与番茄相关的输出。

来源:AGI Hunt · agihunt.info