跳到正文
AGI Hunt· victor_explore·· 5 小时前AI 评分63

10 个 GitHub 开源仓库支持在笔记本上运行本地 AI 模型

10 个 GitHub 开源仓库让你在笔记本上跑本地 AI 模型

AI 导读

作者整理了 10 个 GitHub 开源仓库,覆盖在笔记本上运行本地 AI 模型的完整链路。Ollama、llama.cpp 和 LocalAI 分别用于模型运行、推理及自托管 API,exo 可将多台设备组成集群,llmfit 用于判断模型能否装入内存。

来源:AGI Hunt · agihunt.info