扩散模型RL收益或主要来自激活转向
热点事件持续更新
扩散模型RL收益或主要来自激活转向
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Virginia Tech、fal、Georgia Tech与IBM Research的论文称,扩散Transformer经RL后训练获得的大部分奖励增益,可由一组固定激活转向向量复现。该向量对所有提示词、词元和采样种子均相同,不依赖具体输入。 在SD3.5-M上,这组向量仅0.29M参数,比RL微调LoRA的18.8M少65倍,却恢复了6个RL微调图像模型90.0%至96.3%的奖励增益;在两个RL微调视频模型上,恢复比例分别为89.8%和111.9%。
AI 根据报道生成 · 2 小时前更新
最新进展11月21日 03:17
论文称扩散模型 RL 后训练大部分收益来自激活转向报道时间线
沿着报道,了解事件的不同侧面。
11月21日
- AGI Hunt论文称扩散模型 RL 后训练大部分收益来自激活转向
Virginia Tech、fal、Georgia Tech 与 IBM Research 的论文发现,扩散 Transformer 的 RL 后训练质量提升大部分可由固定 steering 向量复现。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。