AGI Hunt· sebkrier·· 3 小时前AI 评分39
论文《Simple Mechanistic Explanations for Out-Of-Context Reasoning》(arXiv:2507.08218) 解释 LoRA 微调泛化:单个转向向量即可复现 OOCR 与后门
LoRA 微调为何带来意外泛化:一个转向向量即可解释,连模型后门也是
AI 导读
Tim Hua 与 sebkrier 转推讨论 Wang et al. 2025 的论文《Simple Mechanistic Explanations for Out-Of-Context Reasoning》(arXiv:2507.08218,Neel Nanda 等作者,ICML 2025 Workshop),认为文献中多数出上下文推理(OOCR)现象都能由此解释。
来源:AGI Hunt · agihunt.info