少量权重微调显著提升Gemma排序能力
热点事件持续更新
少量权重微调显著提升Gemma排序能力
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
dejanseo称,复现NeurIPS 2025论文的方法后,Gemma 3 270M给5个数字排序的正确率从1%升至97%,仅需训练1,000个权重,约占1亿参数的0.001%。同一方法还使词表反转达到84%,仅训练30个权重即可让干净JSON输出达到99%,并改善长加法能力。 该方法并非对所有任务同样有效:乘法正确率始终约为30%,即使训练10万个权重也未明显提升。
AI 根据报道生成 · 1 小时前更新
最新进展11月2日 10:19
复现少量权重微调方法,Gemma 3 270M 排序正确率从 1% 升至 97%报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- AGI Hunt复现少量权重微调方法,Gemma 3 270M 排序正确率从 1% 升至 97%
作者复现 NeurIPS 2025 论文《Quantifying Elicitation of Latent Capabilities in Language Models》的少量权重微调方法,在 Gemma 3 270M 上将数字排序正确率从 1% 提升至 97%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。