跳到正文
热点事件持续更新

Quail新增GDN混合架构模型支持

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

CMU Full Stack Data Lab 为开源推理引擎 Quail 增加 GDN 混合架构支持,可运行以 Gated DeltaNet 替代大部分注意力层的 Qwen3.5 等模型。 Quail 基于 Apache DataFusion 构建,支持在 SQL 中运行 AI 函数,并通过缓存循环状态优化推理。项目方称,在其测试中,Quail 的推理速度较 vLLM 提升超过 3 倍,最高达到 3.2 倍。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    开源推理引擎 Quail 支持 GDN 混合架构模型

    CMU Full Stack Data Lab 开源的推理引擎 Quail 新增对 GDN 混合架构模型的支持,包括以 Gated DeltaNet 替代大部分注意力层的 Qwen3.5。Quail 基于 Apache DataFusion 构建,可在 SQL 中运行 AI 函数,并通过缓存循环状态将推理速度较 vLLM 提升超过 3 倍,最高达 3.2 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。