跳到正文
热点事件持续更新

IOTA称去中心化训练提速约5倍

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Bittensor子网IOTA(SN9)发布优化实证称,在16B模型测试中,每轮模型合并的中位耗时由31.8分钟降至6.7分钟,提速约5倍、耗时减少79%。 在相同24小时、140台机器条件下,训练token增加19%,loss由4.17降至4.00;相同token数下,两组loss分别为4.04和4.05,曲线几乎重合,表明此次提速未降低模型质量。测试采用138个worker、10个流水线阶段和14个副本,成本据称降低近20%。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. AGI Hunt
    Bittensor 子网 IOTA(SN9)去中心化训练提速 5 倍:16B 模型合并从 31.8 分钟降至 6.7 分钟

    Bittensor 子网 IOTA(SN9)发布去中心化训练优化实证:16B 模型每轮合并的中位耗时从 31.8 分钟降至 6.7 分钟,提速约 5 倍、耗时降低 79%。在同样 24 小时、140 台机器下,训练 token 多 19%,loss 从 4.17 降至 4.00;相同 token 数下 loss 为 4.04 vs 4.05,曲线几乎重合,表明提速来自系统层优化且模型质量无损。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。