AGI Hunt· AccountAntique9327·· 3 天前AI 评分67
llama.cpp 分支实现推理时实时 abliteration,无需微调移除模型护栏
llama.cpp 分支实现推理时实时 abliteration,无需微调即可去除模型护栏
AI 导读
AbliteratedOutTheBox 是 llama.cpp 的开源分支,可在加载模型时于推理阶段实时执行 abliteration,移除模型的拒绝行为。它无需微调,不生成额外模型文件,也不增加 VRAM 占用,省去了传统离线处理权重的流程。
来源:AGI Hunt · agihunt.info