Pluralis 去中心化训练：权重永不完整落地，无人可独占模型

Pluralis Research 采用模型并行，将 GPT 切成流水线阶段分布至各节点，使完整权重永不在单处实体化。其基于 Nesterov 的更新方法在 200 Mb/s 网络下以约 2 倍减速训练 GPT-1.3B，并带来约 100 倍的 RL 权重同步效率提升。贡献者模型所有权由协议按训练贡献强制分配。