Qwen领域LoRA开源但多数未胜过基座

一位 Reddit 用户使用 MLX，在配备 512GB 内存的 Mac Studio M3 Ultra 上为 Qwen3.6-35B-A3B 训练并开源 35 个领域 LoRA，包含适配器、数据集、路由器和训练脚本。独立审计显示，基座模型在绝大多数领域胜过这些 LoRA，仅 HTML/CSS 领域明显获益；基于 MiniLM 的路由器在 34 个领域中的 top-1 准确率为 46%，top-3 为 70%。 由于 MoE LoRA 融合至 8-bit 量化模型效果不可用，实际方案改为运行时加载 BF16 适配器：单一基座常驻内存，按请求切换适配器，约需 2 秒。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。