跳到正文
热点事件持续更新

Jonathan Chang提出神经元微调法

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Jonathan Chang提出并实验评估Neuron Tuning:不更新模型权重矩阵,只微调目标上下文中激活的少数神经元,以限制对无关文本的改动。 三组实验显示,与同规模LoRA(rank 8、1200万参数)相比,该方法对无关文本的扰动低3至19倍;按梯度或激活选择性挑选的神经元,其副作用低5至19倍。若改为调整全局激活的神经元,反而会产生大4至37倍的扰动。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. AGI Hunt
    Neuron Tuning 微调法:只调少量神经元,对无关文本扰动比 LoRA 低 3-19 倍

    Jonathan Chang 提出 Neuron Tuning,仅微调目标上下文中激活的少数神经元,而不更新权重矩阵。三组实验显示,与同规模 LoRA(rank 8,1200 万参数)相比,该方法对无关文本的扰动低 5-19 倍;全局激活的神经元反而会造成 4-37 倍的更大扰动。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。