跳到正文
热点事件持续更新

ScoreCLR预印本以可学习排斥项替代负样本

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Christopher Marouani、Grigory Bartosh 与 Christian A. Naesseth 发布首篇 ScoreCLR 预印本,提出用扩散分数网络和去噪分数匹配训练轻量表征网络,并以可学习的排斥项替代显式负样本批次。该方法计算成本随 batch size 线性增长,而非二次方增长。 在 CIFAR-10 和 ImageNet-100 上,ScoreCLR 的线性探针精度较 SimCLR 仅有极小损失;CIFAR-10 的 projector 输出有效秩为 229/256,高于 SimCLR 的 96 和 LeJEPA 的 58,表明其嵌入覆盖了更多表示维度。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    ScoreCLR 用扩散分数网络替代负样本,CIFAR-10 嵌入近满秩

    ScoreCLR 预印本提出用去噪分数匹配训练轻量网络,以可学习的排斥项替代显式负样本 batch。在 CIFAR-10 与 ImageNet-100 上,其线性探针精度较 SimCLR 损失极小,CIFAR-10 的 projector 输出有效秩达 229/256,高于 SimCLR 的 96 和 LeJEPA 的 58。该方法的成本随 batch size 线性增长,而非二次方。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。