跳到正文
AGI Hunt· gnukeith·· 2 小时前AI 评分49

极客 gnukeith 计划在家扩至 1TB 内存,晒出三机分层推理架构

为了跑 AI 拼了:极客自述在家攒 1TB 内存,晒出三机分层推理架构

AI 导读

极客 gnukeith 宣布 1 月将继续购入硬件,目标是让家中内存总量达到 1TB,并展示本地 AI 基础设施设计。架构由 Box A(192GB)、Box B(128GB)和 Box C(64GB)组成,分别承担分层推理、guard 服务及 agent 执行,并以可信控制 VM 与可重置的不可信 Agent VM 实现隔离。

来源:AGI Hunt · agihunt.info