AGI Hunt· DZhang50·· 1 小时前AI 评分44
单台 DGX Spark 运行 ripple-65b 预览版:10.8 tok/s 且推理全程连贯
单台 DGX Spark 跑 ripple-65b 预览版:10.8 tok/s 且推理全程连贯
AI 导读
一台 DGX Spark 通过 nvfp4 量化、dflash2 和 SGLang 运行 ripple-65b preview 检查点,速度约 10.8 tok/s。实测显示,该预览版模型在长推理过程中能保持连贯并持续作出正确判断,其实际可用性超出“预览版不可用”的预期。
来源:AGI Hunt · agihunt.info