跳到正文
AGI Hunt· texhnolyze_d·· 1 小时前AI 评分41

300 美元旧 HP ZBook 本地运行 MoE Qwen 模型,4GB 显存下平均 10 tok/s

300 美元旧笔记本本地跑 MoE 模型:4GB 显存也够用

AI 导读

网友 texhnolyzed 用 300 美元购买的旧 HP ZBook 本地运行未审查的 MoE Qwen 模型,在 Quadro P1000 仅 4GB 显存、64GB DDR4 内存的条件下实现平均 10 tok/s。其测试显示模型能生成可读的多种风格短篇故事,思考了十年前硬件可达到的智能上限及未来质量提升空间。

来源:AGI Hunt · agihunt.info