incorporo 开源 perfkit 训练优化方案

incorporo 开源了面向 BH200、H100 和 A100 的 perfkit 模型训练优化方案，覆盖文本到图像模型与 LLM 训练器；其称，在相同数据和配置下，单卡训练速度达 12,523 tokens/s，较 ms-swift、Unsloth 和 transformers+PEFT 分别快 58%、76% 和 178%。 incorporo 还称，perfkit 的模型算力利用率（MFU）约为 53.9%，但测试机 Arrhenius 存在功率限制，因此该数值为时钟修正后结果；训练 loss 与对比方案的差异低于 6e-4。上述性能数据均来自 incorporo 的测试说明。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。