跳到正文
热点事件持续更新

David Sunok 开源 SADL 训练损失

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

David Sunok 介绍并开源 SADL(Supply And Demand Loss)损失,称该方法可解决 JEPA 训练中编码器 H 先崩溃、梯度无法回传到 Z 的问题,将表征崩溃率从 50% 降至 0%。 据其说法,这一即插即用损失训练 1 个 epoch 的效果超过原方法 10 个以上,并可对任意目标形状实现 92% 以上可控性,且无需搜索。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    SADL 插件损失将 JEPA 训练崩溃率从 50% 降至 0%

    David Sunok 介绍新方法 SADL(Supply And Demand Loss),称其将 JEPA 训练表征崩溃率从 50% 降至 0%,通过解决编码器 H 先崩溃、梯度无法回传到 Z 的问题发挥作用。该单一即插即用损失已开源,1 个 epoch 效果超过原来 10 个以上,并可在无需搜索的情况下对任意目标形状实现 92% 以上可控性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。