跳到正文
热点事件持续更新

团队复现Neural Thickets并提出Logit PSV

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Kyutai、Meta FAIR、UC Berkeley与Google DeepMind团队复现了Neural Thickets扰动集成的性能收益,但认为收益并不依赖“权重空间邻近专家”的解释。其论文提出免训练的Logit PSV:冻结模型,仅给输出logits加入固定随机高斯偏置,再经验证集选择和多数投票,效果可匹敌或超过全权重扰动集成。 研究还发现,扰动单个decoder block乃至仅扰动value projection,即可恢复大部分收益;在DINOv3及对地观测等域外任务中,仅扰动logits也带来性能提升,全权重扰动几乎没有额外收益。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. AGI Hunt
    Kyutai 等复现 Neural Thickets:冻结模型加 logit 偏置即可,无需权重扰动

    Kyutai、Meta FAIR、UC Berkeley 与 Google DeepMind 复现 Neural Thickets 假说,发现性能收益不必依赖权重空间中的邻近专家。研究提出 Logit PSV:冻结模型并对输出 logits 加固定随机高斯偏置,即可匹敌或超过全权重扰动集成,收益主要来自输出多样化、验证集选择与多数投票。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。