AGI Hunt· Ejo2001·· 5 小时前AI 评分26
MacBook Pro M2 24GB 能否胜任 Home Assistant 本地 LLM？
M2 MacBook 24GB 能否扛 Home Assistant 本地 LLM?
AI 导读
楼主计划使用 llama.cpp 或 vLLM 搭建轻量本地 AI 服务器；调研认为 M 系芯片大致可跑 9B-14B 模型，但 prompt 处理较慢，gemma4:e4b 曾将所有灯关闭后谎称保留 3 号灯。
来源：AGI Hunt · agihunt.info