Forge 0.2.1增强ANE大模型运行

ANEMLL Forge 0.2.1 支持 M6 Mac Mini 32GB 用户通过 Apple Neural Engine（ANE）以最高 192K 上下文运行 Qwen3.8-27B。 新版本引入较 FP16 内存减半的 INT8 K/V 缓存，以及与目标模型共享输出 head 的小型 drafter，共节省 0.86GB ANE 内存且据称不损失速度。首次完整编译 192K 约需2小时，但结果会缓存；使用 --ctx 仅导出所需条目后，16K 模型从下载到启动服务约需10分钟。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。