跳到正文
AGI Hunt· Potential_Block4598·· 2 小时前AI 评分59

24GB 内存工作站运行 Pi Agent 与 Bonsai 2 9B 的本地实测

24GB 内存老工作站也能跑 Agent:Pi Agent + Bonsai 2 9B 实测

AI 导读

作者在配备 24GB 内存和 12GB 显存的二手工作站上搭建 Pi Agent、Bonsai 2 9B 与 SearXNG 搜索扩展组成的本地智能体。实测速度约 30 tok/s,方案侧重速度与省心,作者反馈 9B 以上模型明显变慢,nanbeige 则存在思考过度问题。

来源:AGI Hunt · agihunt.info