跳到正文
热点事件持续更新

运行时叠加小型LoRA以解除模型拒绝

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Reddit 用户 returnity 提出,无需下载数百 GB 的去审查模型,可把模型的拒绝方向封装为 rank-1 LoRA,在运行时叠加到已有量化模型上。作者使用 huihui v2 提取 LoRA,并称在 Aider Polyglot 上超过基座模型,Jailbreak Bench 拒绝率从 93/100 降至 3/100。 按请求加入 LoRA 字段后,可在模型拒绝时重新请求;作者还提议用扩展自动触发 LoRA 并续跑 agent 会话,但需承担一次完整 re-prefill 的代价。该方法也适用于 Strata、ds4/dwarfstar。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. AGI Hunt精选
    Reddit 用户介绍用 rank-1 LoRA 在运行时解除模型审查

    一名 Reddit 用户提出将去审查模型的拒绝投影封装为小型 LoRA,在运行时叠加到已有量化模型上,无需下载数百 GB 文件。作者使用 huihui v2 提取 LoRA,在 Aider Polyglot 上取得超过基座模型的结果,Jailbreak Bench 的拒绝率从 93/100 降至 3/100。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。