跳到正文
热点事件持续更新

AbliteratedOutTheBox开源实时消融引擎

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

AbliteratedOutTheBox 开源了基于 llama.cpp 的推理时消融引擎,可在模型加载和推理过程中实时执行 abliteration,移除拒绝行为;无需微调或生成额外模型文件,项目代码已发布在 GitHub。 开发者还将相关 hook 移植到 Strata。该方案把传统离线处理模型权重的步骤前移到推理阶段,并称不会大量占用显存。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月24日
  1. AGI Hunt
    开发者发布基于 llama.cpp 的推理时消融引擎 AbliteratedOutTheBox

    开发者发布基于 llama.cpp 分支的推理时消融引擎 AbliteratedOutTheBox,并将相关 hook 移植到 Strata。该方案无需微调,可在不占用大量显存的情况下使用去除安全对齐的模型,项目已在 GitHub 开源。

10月22日
  1. AGI Hunt
    llama.cpp 分支实现推理时实时 abliteration,无需微调移除模型护栏

    AbliteratedOutTheBox 是 llama.cpp 的开源分支,可在加载模型时于推理阶段实时执行 abliteration,移除模型的拒绝行为。它无需微调,不生成额外模型文件,也不增加 VRAM 占用,省去了传统离线处理权重的流程。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。