跳到正文
热点事件持续更新

TeksEdge公开Qwen3.5纯CPU调优配方

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

开发者 TeksEdge 发布免 GPU 的独立程序并公开 llama.cpp 调优配方,使 Qwen3.5-4B 可在纯 CPU 笔记本上运行;在 Ryzen 5 7540U(6核12线程、无独显)设备上,采用 Q4KM GGUF 模型、关闭全部 GPU offload、普通 decode、9线程和 Q4 KV cache,生成速度约为 11.4 tok/s。程序支持 U 盘即插即用,但该性能结果对应上述模型、硬件与参数组合。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. AGI Hunt
    llama.cpp 调参让 Qwen3.5-4B 纯 CPU 推理达 11.4 tok/s

    开发者 TeksEdge 发布免 GPU、可 U 盘即插即用的独立 .exe,在 Ryzen 5 7540U 上以纯 CPU 运行 Qwen3.5-4B,普通 decode 配合 9 线程与 Q4 KV cache 达到约 11.4 tok/s。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。