TeksEdge公开Qwen3.5纯CPU调优配方
热点事件持续更新
TeksEdge公开Qwen3.5纯CPU调优配方
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
开发者 TeksEdge 发布免 GPU 的独立程序并公开 llama.cpp 调优配方,使 Qwen3.5-4B 可在纯 CPU 笔记本上运行;在 Ryzen 5 7540U(6核12线程、无独显)设备上,采用 Q4KM GGUF 模型、关闭全部 GPU offload、普通 decode、9线程和 Q4 KV cache,生成速度约为 11.4 tok/s。程序支持 U 盘即插即用,但该性能结果对应上述模型、硬件与参数组合。
AI 根据报道生成 · 1 小时前更新
最新进展10月29日 15:18
llama.cpp 调参让 Qwen3.5-4B 纯 CPU 推理达 11.4 tok/s报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- AGI Huntllama.cpp 调参让 Qwen3.5-4B 纯 CPU 推理达 11.4 tok/s
开发者 TeksEdge 发布免 GPU、可 U 盘即插即用的独立 .exe,在 Ryzen 5 7540U 上以纯 CPU 运行 Qwen3.5-4B,普通 decode 配合 9 线程与 Q4 KV cache 达到约 11.4 tok/s。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。