跳到正文
热点事件持续更新

Apex-35B单卡实测结果公布

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

博主lxfater转引的实测显示,超衍新模型Apex-35B-v1.0在48GB RTX 4090上达到205 token/s;使用Strata将模型加载至24GB显存时,速度为115 token/s,比llama.cpp快72%。实测作者称,其累计消耗400万token并测试九个项目,认为该模型在单卡研究助手中表现突出。 上述数据仅对应48GB RTX 4090等特定配置;该型号并不普遍,普通显卡上的速度与可用性仍待验证。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. AGI Hunt
    Apex-35B-v1.0 单卡实测:48G 4090 达到 205 tok/s

    超衍新模型 Apex-35B-v1.0 在 48G 4090 上的实测达到 205 tok/s,使用 Strata 加载至 24G 显存时可达 115 tok/s,比 llama.cpp 快 72%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。