方向性激活转向移植至oMLX
热点事件持续更新
方向性激活转向移植至oMLX
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Undici77将antirez的方向性激活转向思路移植到本地推理引擎oMLX,并在Qwen3.8 Flash Next上完成量化实测;该方案无需微调,未设置pack时不改变模型行为。 代码目前位于oMLX的steering-experimental分支,作者征集投票以合入主线。在MacBook Pro 14英寸M4 Max、128GB、oQ4e+MTP、100对verbosity pack、temperature 0的测试条件下,默认仅对prompt及前32个token应用时,计算开销增加约0.2%—0.4%,处于噪声范围;若对每个token应用,开销约增加5%。
AI 根据报道生成 · 2 小时前更新
最新进展11月20日 22:02
oMLX 移植 ds4 方向性激活转向并在 Qwen3.8 Flash Next 上实测报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- AGI HuntoMLX 移植 ds4 方向性激活转向并在 Qwen3.8 Flash Next 上实测
Undici77 将 antirez 的 ds4 方向性激活转向移植到 oMLX,并在 Qwen3.8 Flash Next 上完成量化实测。该方案从成对 prompt 学习各层方向,在推理时调整注意力分支输出,无需微调且未设置 pack 时不改变模型行为。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。