同条件实验显示DeepSeek V3.1微调交叉熵更低
热点事件持续更新
同条件实验显示DeepSeek V3.1微调交叉熵更低
2 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
独立研究者 kalomaze 公布同条件 LoRA 微调实验：DeepSeek V3.1 的评估交叉熵为 0.80396，低于 Llama 405B、70B 和 8B 的 0.81760、0.84229 和 0.85536，在这组测试中表现最佳。 实验针对带音频条件的空间符号语言任务，使用相同自定义 tokenizer、数据、批大小、学习率和 LoRA rank（16），四款模型训练 token 量均约2.28亿，其中监督 token 为9098万。相同 tokenizer 使交叉熵具备直接可比性，但该结果仅适用于这组任务和微调设置，不能据此认定 DeepSeek V3.1 在所有任务或条件下均优于 Llama。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 03:05
独立研究者实测：DeepSeek V3.1 微调损失优于 Llama 全系报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- AGI Hunt独立研究者实测：DeepSeek V3.1 微调损失优于 Llama 全系
独立研究者 kalomaze 实测发现，DeepSeek V3.1 在同一 OOD 微调任务中的交叉熵表现优于 Llama 全系模型。实验采用同 tokenizer、同数据和 batch 设置，使两类架构的交叉熵 1:1 可比，为 MoE 与稠密架构的对比提供了新数据点。
- AGI Hunt同数据同 tokenizer 对照实验：DeepSeek V3.1 微调 CE 优于 Llama 全系
同数据同 tokenizer 对照实验中，DeepSeek V3.1 的 LoRA 微调 Eval CE 为 0.80396，优于 Llama 405B、Llama 70B 和 Llama 8B。后三者分别为 0.81760、0.84229 和 0.85536，四者训练 token 量均约 2.28 亿，其中监督 token 为 9098 万。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。