RTX 3060 12GB 运行 Qwen3.8-27B 的 65K 上下文量化配方实测

Reddit 用户在 RTX 3060 12GB 上跑通 Qwen3.8-27B-GSQ-RCO GGUF，65K 上下文全部在显卡运行。方案采用 IQ3XXS 量化并将 mmproj 卸载到内存，命令设定 -ngl 99 和 65536 上下文。作者称可完成设备端 agent 推理任务。