跳到正文
热点事件持续更新

Kioxia提出无标签视觉聚焦损失

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Kioxia研究者提出两种视觉聚焦损失函数,将Vision Transformer的多头注意力与图像特定区域对齐,在无需标注的情况下引导模型关注图像局部。研究者称,该方法可缓解DINO等自监督模型表征模糊、样本过度相似的问题,并促使空间聚焦的注意力头出现多样化专化;在零样本分割等稠密预测任务中的定性、定量评测显示性能提升。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    Kioxia 研究:无标签训练让 ViT 学会聚焦并涌现空间注意力头专化

    Kioxia 研究者提出两种视觉聚焦损失函数,将 Vision Transformer 的多头注意力与图像特定区域对齐,无需标注即可引导模型聚焦。该方法缓解自监督模型如 DINO 表征模糊、过度相似的问题,并促使多样且空间聚焦的注意力头专化自发涌现。定性、定量评测显示,零样本分割等稠密预测任务的表现显著提升。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。