跳到正文
热点事件持续更新

Kling团队提出免训练块稀疏注意力方法

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

KlingAI与中国科学院大学、中国科学院自动化研究所、北京大学团队提出免训练块稀疏注意力分配方法 ALLOT,用于加速视频扩散 Transformer。团队称,该方法以每个网络层、生成步骤的延迟预算为分配单元,依据输出测试结果配置不同层和步骤的块稀疏密度,在给定延迟预算下提高输出保真度,并减少全 3D 注意力计算开销。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. AGI Hunt
    Kling 提出 ALLOT:免训练按输出分配块稀疏注意力加速视频扩散 Transformer

    KlingAI 与 UCAS、CASIA、北大团队提出免训练的 ALLOT,将每个 layer-step 的延迟预算作为分配单元,依据 Output Tests 分配块稀疏密度。方法面向视频扩散 Transformer,在给定延迟预算下最大化输出保真度,减少全 3D 注意力计算开销。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。