跳到正文
AGI Hunt· Tasty-Ad-3753·· 1 小时前AI 评分61

Qwen3.5-4B 单神经元激活转向实操指南

给 Qwen 神经元「加剂量」:一份单神经元激活转向实操指南

AI 导读

文章介绍如何对 Qwen3.5-4B 开展神经元转向,通过在指定层 downproj 挂载 forward pre-hook,为单个神经元加入按剂量计算的激活值。

来源:AGI Hunt · agihunt.info