百度 oHC 用四元数实现正交残差连接，3.9B 模型 BPB 降低 6.2σ

百度论文提出基于四元数的正交超连接 oHC，在 3.9B 模型、73B tokens 训练下，将 16 个 benchmark 的平均 BPB 相对单流残差基线降低约 3.9%，显著性达 6.2σ。oHC 保留跨流通信并避免流同质化，四元数对构建成本比 Sinkhorn–Knopp 迭代便宜 20.6 倍，但正交约束仅将流同质化推迟约 3 层等效深度。