sfnx 开源并适配旧款 V100
热点事件持续更新
sfnx 开源并适配旧款 V100
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
GitHub 用户 jfinkpottery 开源自研推理引擎 sfnx,称其在一台配备 3 张 32GB V100 的 Dell R740 服务器上,可让 Qwen-Flash-Next 以近 400 tokens/秒生成。该引擎从 strata 分叉,但核心针对老一代 Volta GPU 从头构建,代码现已公开。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 05:11
sfnx 用 3 张二手 V100 32GB 让 Qwen-Flash-Next 跑到近 400 tokens/秒报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- AGI Huntsfnx 用 3 张二手 V100 32GB 让 Qwen-Flash-Next 跑到近 400 tokens/秒
Reddit 用户 jfinkpottery 自研推理引擎 sfnx,在配备 3 张 V100 32GB 的 Dell R740 服务器上,让 Qwen-Flash-Next 实现近 400 tokens/秒的生成速度。sfnx 从 strata 分叉而来,但引擎核心为老一代 Volta GPU 从头构建,相关代码已在 GitHub 开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。