跳到正文
热点事件持续更新

新加坡国立大学开源 MMFlash 多模态推测解码方法

1 篇报道1 个报道来源35 分钟前更新

先了解这件事

AI 综述

新加坡国立大学团队提出并开源 MMFlash 多模态推测解码方法,通过自适应提高依赖视觉信息的 token 权重,并结合长视频稀疏注意力,减少视觉任务中的解码开销。团队称,该方法在文本、STEM、视频等任务上实现最高 3.58 倍无损加速。 研究显示,多模态推测解码的接受率会随 token 对视觉信息的依赖增强而下降:依赖度对应的接受率由 46% 降至 22%。MMFlash据此调整不同 token 的处理方式,代码与模型也已公开。

AI 根据报道生成 · 27 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. AGI Hunt
    新加坡国立大学 MMFlash:视觉语言模型推测解码最高提速 3.58 倍

    新加坡国立大学团队发布 MMFlash,通过自适应上调依赖视觉的 token 权重,并结合长视频稀疏注意力改进多模态推测解码。基于 KL 散度的 token 级视觉依赖度量显示,接受率随视觉依赖升高从 46% 降至 22%;该方法在文本、STEM、视频等多任务上实现最高 3.58× 无损加速,代码与模型已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。