Kraits在16GB Mac运行Gemma 4
热点事件持续更新
Kraits在16GB Mac运行Gemma 4
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Kraits通过llama.cpp插件，在16GB Mac mini M4上直接加载Google官方14.4GB的Gemma 4 26B-A4B QAT Q40文件，无需裁剪；完成5个TypeScript任务并以严格编译和Jest执行评分，获33/40分，离线写入速度为31 tok/s。 测试在温度0下仅单次运行。22K token长提示首字延迟达231秒，且为释放显存每层只保留64个专家，长编码任务质量下降；其专家热度图也仅针对TypeScript构建，其他任务尚未测试。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 19:39
Gemma 4 26B 在 16GB Mac 离线运行 TypeScript 测试获 33/40 分报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- AGI HuntGemma 4 26B 在 16GB Mac 离线运行 TypeScript 测试获 33/40 分
Kraits 在 16GB Mac mini M4 上直接加载 Google 官方 14.4GB 的 Gemma 4 26B-A4B QAT Q40 文件，完成 5 个 TypeScript 任务并获 33/40 分，速度为 31 tok/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。