新加坡国立大学开源 MMFlash 多模态推测解码方法
热点事件持续更新
新加坡国立大学开源 MMFlash 多模态推测解码方法
1 篇报道1 个报道来源35 分钟前更新
先了解这件事
AI 综述
新加坡国立大学团队提出并开源 MMFlash 多模态推测解码方法,通过自适应提高依赖视觉信息的 token 权重,并结合长视频稀疏注意力,减少视觉任务中的解码开销。团队称,该方法在文本、STEM、视频等任务上实现最高 3.58 倍无损加速。 研究显示,多模态推测解码的接受率会随 token 对视觉信息的依赖增强而下降:依赖度对应的接受率由 46% 降至 22%。MMFlash据此调整不同 token 的处理方式,代码与模型也已公开。
AI 根据报道生成 · 27 分钟前更新
最新进展11月16日 14:17
新加坡国立大学 MMFlash:视觉语言模型推测解码最高提速 3.58 倍报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- AGI Hunt新加坡国立大学 MMFlash:视觉语言模型推测解码最高提速 3.58 倍
新加坡国立大学团队发布 MMFlash,通过自适应上调依赖视觉的 token 权重,并结合长视频稀疏注意力改进多模态推测解码。基于 KL 散度的 token 级视觉依赖度量显示,接受率随视觉依赖升高从 46% 降至 22%;该方法在文本、STEM、视频等多任务上实现最高 3.58× 无损加速,代码与模型已开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。