旧笔记本本地跑通MoE模型
热点事件持续更新
旧笔记本本地跑通MoE模型
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
网友 texhnolyze_d 称,他用300美元购买的旧HP ZBook在本地运行一个未审查的MoE Qwen模型,平均生成速度达到10 tok/s。该笔记本配备Xeon处理器、仅4GB显存的Quadro P1000和64GB DDR4内存。 他的测试显示,模型能够生成多种风格的可读短篇故事,说明这类MoE模型并非只能在高端GPU上运行;但其具体模型名称、参数规模和测试条件之外的质量表现未在该报道中说明。
AI 根据报道生成 · 51 分钟前更新
最新进展11月21日 23:42
300 美元旧 HP ZBook 本地运行 MoE Qwen 模型,4GB 显存下平均 10 tok/s报道时间线
沿着报道,了解事件的不同侧面。
11月21日
- AGI Hunt300 美元旧 HP ZBook 本地运行 MoE Qwen 模型,4GB 显存下平均 10 tok/s
网友 texhnolyzed 用 300 美元购买的旧 HP ZBook 本地运行未审查的 MoE Qwen 模型,在 Quadro P1000 仅 4GB 显存、64GB DDR4 内存的条件下实现平均 10 tok/s。其测试显示模型能生成可读的多种风格短篇故事,思考了十年前硬件可达到的智能上限及未来质量提升空间。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。