跳到正文
热点事件持续更新

方向性激活转向移植至oMLX

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Undici77将antirez的方向性激活转向思路移植到本地推理引擎oMLX,并在Qwen3.8 Flash Next上完成量化实测;该方案无需微调,未设置pack时不改变模型行为。 代码目前位于oMLX的steering-experimental分支,作者征集投票以合入主线。在MacBook Pro 14英寸M4 Max、128GB、oQ4e+MTP、100对verbosity pack、temperature 0的测试条件下,默认仅对prompt及前32个token应用时,计算开销增加约0.2%—0.4%,处于噪声范围;若对每个token应用,开销约增加5%。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. AGI Hunt
    oMLX 移植 ds4 方向性激活转向并在 Qwen3.8 Flash Next 上实测

    Undici77 将 antirez 的 ds4 方向性激活转向移植到 oMLX,并在 Qwen3.8 Flash Next 上完成量化实测。该方案从成对 prompt 学习各层方向,在推理时调整注意力分支输出,无需微调且未设置 pack 时不改变模型行为。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。