跳到正文
热点事件持续更新

图解 JEPA 联合嵌入与生成式架构

1 篇报道1 个报道来源49 分钟前更新

先了解这件事

AI 综述

jbhuang0604 将 Yann LeCun 对 JEPA 争论的长回复浓缩为一张图,解释其架构设计逻辑。LeCun 澄清,JEPA 的关键区别不在于是否设有预测器,而在于采用联合嵌入架构还是生成式架构:前者比较 x 与 y 的嵌入,后者从 x 预测 y,并以预测值和 y 之间的散度作为损失;是否需要预测器则取决于具体任务。

AI 根据报道生成 · 32 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    LeCun 澄清 JEPA:关键在联合嵌入与生成式架构之分

    LeCun 回应 JEPA 争论,指出其关键区别不是有无预测器,而是联合嵌入架构与生成式架构。生成式架构从 x 预测 y,并以 y 与预测值之间的散度作为损失;联合嵌入架构则在嵌入空间中比对 x 与 y,是否需要预测器取决于任务本身。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。