Noise speedrun：零阶优化 10 天提速 4000 倍，预训练仅需 1.6 秒

Noise speedrun 发布 10 天内，将 transformer 无反向传播预训练从 1.76 小时缩短至 1.6 秒，提速 4000 倍。其最新纪录是在单节点 8xH100 上以 22.7 秒完成 FineWeb-30M 预训练并达到 3.5 val loss，此前为 123 秒；scaling 仍是最大开放问题。