跳到正文
热点事件持续更新

1080 Ti本地编码模型实测与量化征询

1 篇报道1 个报道来源40 分钟前更新

先了解这件事

AI 综述

发帖者 NegotiationNo1504 在 GTX 1080 Ti 11GB、32GB 内存的 Debian 环境下实测本地编码模型:Qwen3.5-9B MTP 经 llama.cpp/Vulkan 可达 25–30 token/s,但无法胜任 builder;Qwen3.6 35B A3B UD Q4KM 仅 7–10 token/s。Sharp Spark X2.5 4B 因过度思考不可用,X2.6 4B 也只能应付日常任务。 由于 CUDA 不稳定、目标上下文超过 10 万,发帖者征询可在 Q3/Q4 量化下用于真实编码任务的模型、量化与推理框架组合,并计划让 API 大模型承担 planner。

AI 根据报道生成 · 19 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月8日
  1. AGI Hunt
    GTX 1080 Ti 11GB 编码 Agent 模型实测:Qwen3.6 速度慢,Qwen3.5 胜任不足

    Qwen3.5-9B(MTP)在 GTX 1080 Ti 11GB 上达 25–30 t/s,却胜任不了 builder。Qwen3.6 35B A3B UD Q4KM 仅 7–10 t/s;Sharp Spark X2.5 4B 过度思考不可用,X2.6 4B 仅能应付日常任务。发帖者寻求可用的 Q3/Q4 量化模型与框架组合,并计划由 API 大模型担任 planner。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。