本地小模型助手选型实测倾向Gemma 4 E4B

一名用户在24GB M5 Pro Mac上用MLX搭建本地个人助手后，实测认为Gemma 4 E4B是8B以下模型中工具调用表现最佳的选择，并向社区征求更新替代方案。 他的需求包括调用邮件、日历、笔记和文件，多步串联、长文摘要、信息抽取，以及文本、图像、音频和屏幕截图等多模态处理；他同时将模型占用限制在6GB以内。此前尝试的LING 3.0 tiny、LFM系列及低量化Qwen 3.5 4B/9B均未达到理想效果。该结论来自个人使用体验，并非统一评测结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。