ThousandML验证4-bit CQ量化微调
热点事件持续更新
ThousandML验证4-bit CQ量化微调
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
ThousandML发布开源微调平台，采用无需校准的4-bit CQ量化执行QLoRA微调；在Qwen3.8-27B测试中，最终验证损失较Unsloth低17.4%，但训练速度明显落后。 测试使用Alpaca数据集、LoRA rank 32、单张48GB A40显卡训练500步；CQ最终验证损失为1.0315，Unsloth为1.2484，磁盘占用分别为18GB和22.4GB。CQ稳态步时为27.6秒，Unsloth仅3.2秒，作者称正在优化速度。 作者提醒，这些结果仅证明验证损失较低，尚未验证下游任务质量，tokenization与loss-mask等价性也未获独立核实。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 10:28
ThousandML 开源 4-bit CQ 量化微调方案，验证损失较 Unsloth 低 17.4%报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- AGI HuntThousandML 开源 4-bit CQ 量化微调方案，验证损失较 Unsloth 低 17.4%
ThousandML 发布开源微调平台，采用无校准 4-bit CQ 量化执行 QLoRA 微调。在 Qwen3.8-27B 上，其最终验证损失为 1.0315，较 Unsloth 的 1.2484 低 17.4%，磁盘占用为 18GB，低于 Unsloth 的 22.4GB。CQ 稳态步时为 27.6s，落后于 Unsloth 的 3.2s；当前结果仅涉及损失对比，尚未验证下游任务质量。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。