多机构团队提出免训练块稀疏注意力
热点事件持续更新
多机构团队提出免训练块稀疏注意力
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
港中深、山东大学、东京大学、复旦、UC Berkeley、港科大和新加坡国立组成的多机构团队提出 AB-Attention，用于加速视频扩散 Transformer，核心结论是以免训练的高稀疏度块注意力逼近稠密三维注意力，从而降低二次方推理成本。 该方法的 Intra-Block Clustering Selector 在每个查询块内聚类并估计各块的重要性，通过加权采样和细粒度核聚合，仅计算被选中的注意力块。团队称，该方法在激进稀疏度下可提升推理速度并保持输出保真度。
AI 根据报道生成 · 2 小时前更新
最新进展10月30日 16:17
AB-Attention：免训练块稀疏注意力加速视频扩散 Transformer 并保持保真度报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- AGI HuntAB-Attention：免训练块稀疏注意力加速视频扩散 Transformer 并保持保真度
多机构团队提出 AB-Attention，以免训练的高稀疏度块注意力精确逼近视频扩散 Transformer 的稠密 3D 注意力，降低推理中的二次方成本。其 Intra-Block Clustering Selector（IBCS）在每个 query 块内部聚类并估计块重要性，配合加权采样与细粒度 kernel 聚合，在激进稀疏度下提升速度并保持保真度。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。