AGI Hunt· thisdudelikesAI·· 2 小时前AI 评分66
开源工具 llmfit 按硬件条件为本地模型评分
开源工具 llmfit 扫描硬件并按质量/速度/适配/上下文为本地模型打分
AI 导读
llmfit 扫描本机 RAM、CPU、GPU 和 VRAM,并从质量、token/s 速度、内存匹配度和上下文窗口四个维度为数百个模型评分。它会自动选择量化级别并逐步降档,标注 Perfect、Good、Marginal 或 Too Tight,支持 Ollama、llama.cpp、MLX 和 LM Studio。
来源:AGI Hunt · agihunt.info