跳到正文
AGI Hunt· burny_tech·· 3 小时前AI 评分35

开发者推出 J-lens,可直接读取模型人格相关神经元

开发者推出 J-lens 可直接读取模型人格神经元

AI 导读

开发者 @a9lim 演示可解释性工具 J-lens(Jacobian lens),可直接读取模型内部神经元及其在 logit 层面的表现。配图展示了 pirate、horse 等人格相关神经元,完整仓库即将与 @treetowntree 一同开源。

来源:AGI Hunt · agihunt.info