跳到正文
AGI Hunt· kalomaze·· 3 小时前AI 评分25

独立研究者实测:DeepSeek V3.1 微调损失优于 Llama 全系

AI 导读

独立研究者 kalomaze 实测发现,DeepSeek V3.1 在同一 OOD 微调任务中的交叉熵表现优于 Llama 全系模型。实验采用同 tokenizer、同数据和 batch 设置,使两类架构的交叉熵 1:1 可比,为 MoE 与稠密架构的对比提供了新数据点。

来源:AGI Hunt · agihunt.info