1080 Ti本地编码模型实测与量化征询
热点事件持续更新
1080 Ti本地编码模型实测与量化征询
1 篇报道1 个报道来源40 分钟前更新
先了解这件事
AI 综述
发帖者 NegotiationNo1504 在 GTX 1080 Ti 11GB、32GB 内存的 Debian 环境下实测本地编码模型:Qwen3.5-9B MTP 经 llama.cpp/Vulkan 可达 25–30 token/s,但无法胜任 builder;Qwen3.6 35B A3B UD Q4KM 仅 7–10 token/s。Sharp Spark X2.5 4B 因过度思考不可用,X2.6 4B 也只能应付日常任务。 由于 CUDA 不稳定、目标上下文超过 10 万,发帖者征询可在 Q3/Q4 量化下用于真实编码任务的模型、量化与推理框架组合,并计划让 API 大模型承担 planner。
AI 根据报道生成 · 19 分钟前更新
最新进展11月8日 02:43
GTX 1080 Ti 11GB 编码 Agent 模型实测:Qwen3.6 速度慢,Qwen3.5 胜任不足报道时间线
沿着报道,了解事件的不同侧面。
11月8日
- AGI HuntGTX 1080 Ti 11GB 编码 Agent 模型实测:Qwen3.6 速度慢,Qwen3.5 胜任不足
Qwen3.5-9B(MTP)在 GTX 1080 Ti 11GB 上达 25–30 t/s,却胜任不了 builder。Qwen3.6 35B A3B UD Q4KM 仅 7–10 t/s;Sharp Spark X2.5 4B 过度思考不可用,X2.6 4B 仅能应付日常任务。发帖者寻求可用的 Q3/Q4 量化模型与框架组合,并计划由 API 大模型担任 planner。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。