跳到正文
AGI Hunt· NoConflict2854·· 4 小时前AI 评分50

Ollama 云 GPU 部署常见误区:安装运行时不等于下载模型权重

Ollama 装了不等于模型下好了:云 GPU 部署常见的几个坑

AI 导读

Ollama 运行时与模型权重是两回事,ollama --version 和 ollama list 都不能确认缺失权重已下载。应核对 identifier/digest、量化方式与上下文设置,下载前查看模型卡,并区分 DeepSeek-R1 蒸馏模型与 full-size R1。加载后需以真实输入长度和并发请求验证,短问答跑通不代表大负载可容纳。

来源:AGI Hunt · agihunt.info