跳到正文
热点事件持续更新

Evo 2接入vLLM并开源evo2flash

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Arc研究所Brian Hie团队宣布,基因组基础模型Evo 2已兼容vLLM,并开源evo2flash仓库,提供与evo2.Evo2接口兼容的即插即用替代方案。 据团队介绍,Evo 2 7B可在单张H100上运行完整的100万碱基上下文;FP8权重可在支持sm89及以上的L4、L40S、H100和H200上使用FP8 GEMM,较老显卡需走fallback路径。Evo 2 40B加载FP8权重则需要H200或H100。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. AGI Hunt
    Evo 2 适配 vLLM,7B 模型可在单张 H100 运行 1Mb 上下文

    Arc 研究所 Brian Hie 团队宣布基因组基础模型 Evo 2 已兼容 vLLM,并开源 evo2flash 仓库,提供与 evo2.Evo2 接口兼容的即插即用替代。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。