AGI Hunt· Loose_Doubt367·· 3 小时前AI 评分39
12GB 显存本地运行双模型 Agent:大模型规划、小模型执行
12GB 显存本地跑双模型 Agent:大模型规划、小模型执行
AI 导读
作者用 AMD RX 6700 XT(12GB)、R5 5600X、32GB 内存和 llama.cpp Vulkan 后端设计本地自动 agent 流程,由 Qwen3 27B(IQ3 量化)规划任务并落盘卸载,再交给 TieltCoder Qwen3 35B A3B 执行研究、文件管理与总结。该方案仍在规划阶段,并可让大模型验收结果、失败后下发新指令形成 agent loop。
来源:AGI Hunt · agihunt.info