DMD蒸馏需同步扩容critic
热点事件持续更新
DMD蒸馏需同步扩容critic
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Adobe与MIT研究者发现，在分布匹配蒸馏（DMD）中，如果critic规模未随teacher增大而扩容，单纯扩大teacher反而会降低学生表现，甚至引发训练崩溃。 研究者提出两种修复方式：让critic与teacher同步扩容的joint scaling，以及让critic识别当前生成步骤、逐步估计score的STAC。论文称，在无CFG条件下，两者结合可将4步SiT-B学生的FID从13.91降至6.90。
AI 根据报道生成 · 1 小时前更新
最新进展11月3日 02:25
Adobe/MIT 论文：DMD 蒸馏中 critic 未跟上 teacher 规模会让学生变差报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- AGI HuntAdobe/MIT 论文：DMD 蒸馏中 critic 未跟上 teacher 规模会让学生变差
Adobe 与 MIT 的研究发现，分布匹配蒸馏（DMD）中若 critic 规模较小，增大 teacher 反而会降低学生表现，甚至导致训练崩溃。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。