AGI Hunt· huangyun_122·· 3 小时前AI 评分28
Runpod 租用 A6000 运行 Qwen3-8B 实测仅 10 tokens/s
Runpod 租 A6000 跑 Qwen3-8B 实测仅 10 tokens/s
AI 导读
作者在 Runpod 租用一张 A6000 显卡，本地运行 Qwen3-8B，实测推理速度仅约 10 tokens/s。对这一模型与硬件组合而言，该速度明显偏慢，可作为端侧或云端单卡部署性能的参考数据点。
来源：AGI Hunt · agihunt.info