12GB显存本地双模型Agent方案

Loose_Doubt367设计了一套可在12GB显存显卡上运行的本地双模型Agent流程：由Qwen3 27B（IQ3量化）定时加载并完成规划，将结果落盘、卸载模型后，再交给TieltCoder Qwen3 35B A3B执行研究、文件管理和总结等任务；大模型还可复验结果，并在失败时下发新指令形成循环。 方案基于AMD RX 6700 XT、32GB内存和llama.cpp Vulkan后端，通过模型依次加载卸载控制显存占用。作者主张由大模型集中负责规划和验收、小模型不重复校验；目前该方案仍处于规划阶段，尚在征求更合适的模型组合建议。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。