跳到正文
热点事件持续更新

128GB笔记本本地模型推理速度实测

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

burkeholland 使用 Ollama 在一台 128GB 统一内存笔记本上实测多款本地模型,gemma4:e4b 热态吞吐达到 122.8 TPS,冷启动首 token 为 8.65 秒;qwen3-coder:30b 为 90 TPS,gemma4:26b-a4b、gpt-oss:20b 和 qwen3.8:latest 分别为 86.9、60.7 和 25.3 TPS。 这组结果表明,在该设备和 Ollama 运行条件下,不同本地模型的推理速度存在明显差异,其中 gemma4:e4b 的热态吞吐最高,qwen3.8:latest 相对较低。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. AGI Hunt
    128GB 统一内存笔记本 Ollama 实测:gemma4:e4b 本地跑出 122.8 TPS

    burkeholland 使用 Ollama 实测 128GB 统一内存笔记本的本地模型性能,gemma4:e4b 热态吞吐达到 122.8 TPS,冷启动首 token 为 8.65 秒。qwen3-coder:30b 达到 90 TPS,gemma4:26b-a4b、gpt-oss:20b 和 qwen3.8:latest 分别为 86.9、60.7 和 25.3 TPS。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。