跳到正文
AGI Hunt· Tanmay Sah·· 3 小时前AI 评分47

LLM 内置 CPU:零梯度 circuit-grafting 将精确算术电路编译进预训练权重

「LLM 内置 CPU」:零梯度把精确算术电路编译进预训练权重,6 位数运算达 100%

AI 导读

研究提出 closed-form、零梯度的 circuit-grafting 方法,将确定性算术直接编译进 LLM 预训练权重,无需训练样本或运行时 hook。6 位算术测试中,IBM Granite 4.2 3B 达到 99.17%,Qwen 3.5 4B 达到 100.00% ALU-prefix 准确率,显著超过 12.8K 样本 LoRA 的 42.2% 和 61.7%。

来源:AGI Hunt · agihunt.info