跳到正文
热点事件持续更新

kalomaze展示更大骨干模型训练结果

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

kalomaze称,其基于 DeepSeek V3.1 底座开展的更大骨干模型实验,在 16h200 环境中训练约3750步后,eval loss 从约1.14降至约0.82。结果来自其发布的推文及训练曲线截图,尚属实验展示。 该实验采用 fp8、r16 混合和 WSD+ADEMA 配置。现有信息未说明模型规模、硬件配置及与基线实验的对照条件,因此曲线只能反映该次训练中的损失下降。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. AGI Hunt
    kalomaze 展示 DeepSeek V3.1 底座更大骨干实验,eval loss 降至约 0.82

    kalomaze 展示基于 DeepSeek V3.1 底座的更大 backbone 实验,eval loss 在约 3750 步内从约 1.14 降至 0.82 左右。训练采用 fp8、r16 混合及 WSD+ADEMA 配置,在 16h200 环境中进行;相关信息来自推文及训练曲线截图。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。