AGI Hunt· allenling·· 4 小时前AI 评分21
微调 Qwen 视觉小模型容易,部署却要为无流量白租 10 天 GPU
微调 Qwen 视觉小模型容易,部署却要为无流量白租 10 天 GPU
AI 导读
开发者 allenling 为特定任务微调小型 Qwen 视觉模型,训练不难,但测试托管时即使流量几乎为零,仍被迫租用 10 天 GPU。这引出了生产环境是否继续自托管微调小模型、如何减少闲置 GPU 成本,以及为何不直接采用托管 API 的讨论。
来源:AGI Hunt · agihunt.info