Scaling Law「架构无关」时代终结：架构创新重回主舞台

AGI Hunt 判断，Scaling Law 的“架构无关”时代已终结，架构创新重回前沿模型效率演进主舞台。其梳理显示，2024 年主要是宽度缩放，2025 年转向稀疏 MoE 与更优 scaling laws，2026 年聚焦注意力、稀疏性、矩阵运算和深度缩放；估算闭源效率为 1x → 3x → 50x，开源为 1x → 3x → 15-25x。