哥伦比亚大学研究质疑 LLM 线性表示假说：steering 向量行为更复杂

哥伦比亚大学 John Hewitt 质疑 LLM 可解释性中的线性表示假说，实验显示同一 steering 向量采用四种不同范数可触发四种不同行为。两个各自有效的向量相加后，反而会 steer 出与两者都无关的任务，表明线性表示假说不能被简单依赖。