AGI Hunt· rohanpaul_ai·· 2 小时前AI 评分49
新研究:LoRA 可让模型精确伪装低能,基准分数不可尽信
AI 导读
arXiv 新论文《Can We Make an LLM Dumber, or Is It Just Playing Dumb?》表明,通过 LoRA 微调可将模型精确压制至任意目标基准分数。其失败模式与模型“真实变笨”难以区分,表明低分可能被人工制造,单看基准分数无法判断模型真实能力,也可能误导安全测试等评估。
来源:AGI Hunt · agihunt.info