跳到正文
AGI Hunt· Loose_Doubt367·· 3 小时前AI 评分39

12GB 显存本地运行双模型 Agent:大模型规划、小模型执行

12GB 显存本地跑双模型 Agent:大模型规划、小模型执行

AI 导读

作者用 AMD RX 6700 XT(12GB)、R5 5600X、32GB 内存和 llama.cpp Vulkan 后端设计本地自动 agent 流程,由 Qwen3 27B(IQ3 量化)规划任务并落盘卸载,再交给 TieltCoder Qwen3 35B A3B 执行研究、文件管理与总结。该方案仍在规划阶段,并可让大模型验收结果、失败后下发新指令形成 agent loop。

来源:AGI Hunt · agihunt.info