Jacobian Lens 视频详解：给 LLM 装上“测谎仪”

Jacobian Lens 可视化视频解读了如何分析 LLM 内部表征中的 Jacobian 相关信号，在不依赖模型自述的情况下判断模型“真正相信什么”。该方法被形象地称为给大模型装上“测谎仪”，旨在读取模型的真实意图。