FLAMIA 以 MXFP8 混合精度内核加速 Blackwell 训练并防止因果泄漏

FLAMIA 是面向 NVIDIA Blackwell GPU 的 Flash Attention 实现，通过 MXFP8 微缩放与混合精度内核加速 Transformer 注意力训练。其按 key 分组共享缩放因子，并结合密集 per-row 缩放表与共享内存中的 128×4 atom，在支持变长打包文档训练的同时防止未来 token 信息泄漏。