跳到正文
热点事件持续更新

扩散模型RL收益或主要来自激活转向

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Virginia Tech、fal、Georgia Tech与IBM Research的论文称,扩散Transformer经RL后训练获得的大部分奖励增益,可由一组固定激活转向向量复现。该向量对所有提示词、词元和采样种子均相同,不依赖具体输入。 在SD3.5-M上,这组向量仅0.29M参数,比RL微调LoRA的18.8M少65倍,却恢复了6个RL微调图像模型90.0%至96.3%的奖励增益;在两个RL微调视频模型上,恢复比例分别为89.8%和111.9%。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. AGI Hunt
    论文称扩散模型 RL 后训练大部分收益来自激活转向

    Virginia Tech、fal、Georgia Tech 与 IBM Research 的论文发现,扩散 Transformer 的 RL 后训练质量提升大部分可由固定 steering 向量复现。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。