跳到正文
热点事件持续更新

单张RTX 3090运行DeepSeek V4.1实测

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Reddit 用户 GodComplecs 分享了通过 Xolotl 在单张 RTX 3090 上本地运行高度量化的 DeepSeek V4.1 的实测:在按官方参数配置的高量化设置下,输出速度约为 20 tokens/s,测试环境配有 80GB DDR4 内存和 NVMe 存储。 GodComplecs 称,其回答质量与同类问题相当;相较上一代更小的 V4 Flash 约 8 tokens/s,速度有明显提升。该结果属于个人部署环境下的实测数据,并非官方统一基准。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. AGI Hunt
    单卡 RTX 3090 本地运行 DeepSeek V4.1,量化后速度达 20 tokens/s

    Reddit 用户 GodComplecs 通过 Xolotl 在单张 RTX 3090 上运行高度量化的 DeepSeek V4.1,按官方参数配置实现约 20 tokens/s,并配合 80GB DDR4 内存与 NVMe。其测试显示回答质量与同类问题相当,较上一代 V4 Flash 约 8 tokens/s 有明显速度提升。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。