跳到正文
AGI Hunt· sebkrier·· 3 小时前AI 评分39

论文《Simple Mechanistic Explanations for Out-Of-Context Reasoning》(arXiv:2507.08218) 解释 LoRA 微调泛化:单个转向向量即可复现 OOCR 与后门

LoRA 微调为何带来意外泛化:一个转向向量即可解释,连模型后门也是

AI 导读

Tim Hua 与 sebkrier 转推讨论 Wang et al. 2025 的论文《Simple Mechanistic Explanations for Out-Of-Context Reasoning》(arXiv:2507.08218,Neel Nanda 等作者,ICML 2025 Workshop),认为文献中多数出上下文推理(OOCR)现象都能由此解释。

来源:AGI Hunt · agihunt.info