团队复现Neural Thickets并提出Logit PSV
热点事件持续更新
团队复现Neural Thickets并提出Logit PSV
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Kyutai、Meta FAIR、UC Berkeley与Google DeepMind团队复现了Neural Thickets扰动集成的性能收益,但认为收益并不依赖“权重空间邻近专家”的解释。其论文提出免训练的Logit PSV:冻结模型,仅给输出logits加入固定随机高斯偏置,再经验证集选择和多数投票,效果可匹敌或超过全权重扰动集成。 研究还发现,扰动单个decoder block乃至仅扰动value projection,即可恢复大部分收益;在DINOv3及对地观测等域外任务中,仅扰动logits也带来性能提升,全权重扰动几乎没有额外收益。
AI 根据报道生成 · 1 小时前更新
最新进展10月31日 06:18
Kyutai 等复现 Neural Thickets:冻结模型加 logit 偏置即可,无需权重扰动报道时间线
沿着报道,了解事件的不同侧面。
10月31日
- AGI HuntKyutai 等复现 Neural Thickets:冻结模型加 logit 偏置即可,无需权重扰动
Kyutai、Meta FAIR、UC Berkeley 与 Google DeepMind 复现 Neural Thickets 假说,发现性能收益不必依赖权重空间中的邻近专家。研究提出 Logit PSV:冻结模型并对输出 logits 加固定随机高斯偏置,即可匹敌或超过全权重扰动集成,收益主要来自输出多样化、验证集选择与多数投票。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。