跳到正文
热点事件持续更新

ripple-65b预览版单卡实测称可连贯推理

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

DZhang50分享称,ripple-65b预览版检查点在单台DGX Spark上可实现约10.8 tok/s的推理速度,长文本推理过程保持连贯,并能持续作出正确判断,因此不认同“预览版必然不可用”的预期。 该结果来自发帖人的个人实测:模型经nvfp4量化并结合dflash2,通过SGLang运行;其结论目前仅适用于这套单卡配置和该预览检查点。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月13日
  1. AGI Hunt
    单台 DGX Spark 运行 ripple-65b 预览版:10.8 tok/s 且推理全程连贯

    一台 DGX Spark 通过 nvfp4 量化、dflash2 和 SGLang 运行 ripple-65b preview 检查点,速度约 10.8 tok/s。实测显示,该预览版模型在长推理过程中能保持连贯并持续作出正确判断,其实际可用性超出“预览版不可用”的预期。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。