跳到正文
热点事件持续更新

sfnx 开源并适配旧款 V100

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

GitHub 用户 jfinkpottery 开源自研推理引擎 sfnx,称其在一台配备 3 张 32GB V100 的 Dell R740 服务器上,可让 Qwen-Flash-Next 以近 400 tokens/秒生成。该引擎从 strata 分叉,但核心针对老一代 Volta GPU 从头构建,代码现已公开。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AGI Hunt
    sfnx 用 3 张二手 V100 32GB 让 Qwen-Flash-Next 跑到近 400 tokens/秒

    Reddit 用户 jfinkpottery 自研推理引擎 sfnx,在配备 3 张 V100 32GB 的 Dell R740 服务器上,让 Qwen-Flash-Next 实现近 400 tokens/秒的生成速度。sfnx 从 strata 分叉而来,但引擎核心为老一代 Volta GPU 从头构建,相关代码已在 GitHub 开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。