AGI Hunt· CatAstro_Piyush·· 3 小时前AI 评分42
单矩阵就够用:开发者实测复现 Anthropic 的 Jacobian Lens
单矩阵就够用:开发者实测复现 Anthropic 的 Jacobian Lens
AI 导读
Sida Liu 实测复现 Anthropic 的 Jacobian Lens(J-Lens),发现单个同位置雅可比矩阵无需平均即可解码 Qwen3.5-2B 在无关情境下的激活。该工具将中间层激活转换为词表分数,可揭示模型中间计算涉及的概念,包括未直接输出的信息。
来源:AGI Hunt · agihunt.info