跳到正文
AGI Hunt· returnity·· 3 小时前精选AI 评分76

Reddit 用户介绍用 rank-1 LoRA 在运行时解除模型审查

别再下载数百 GB 去审查模型:rank-1 LoRA 运行时即可解禁

AI 导读

一名 Reddit 用户提出将去审查模型的拒绝投影封装为小型 LoRA,在运行时叠加到已有量化模型上,无需下载数百 GB 文件。作者使用 huihui v2 提取 LoRA,在 Aider Polyglot 上取得超过基座模型的结果,Jailbreak Bench 的拒绝率从 93/100 降至 3/100。

推荐理由

文章给出无需下载完整去审查模型的运行时 LoRA 方法,并提供效果校验和按需切换思路。

来源:AGI Hunt · agihunt.info