四参数定律预测大模型推理能耗

博洛尼亚大学与 CINECA 团队提出并验证 SIMPLE Law，仅用四项模型架构超参数即可预测大语言模型推理能耗，无需逐模型拟合，并分别计算预填充与解码阶段成本。 在 NVIDIA H100 上，该定律对六类家族的13个模型取得 R²=0.969、MAPE=11.97%，团队称其预测表现优于逐模型拟合方法3.1至3.5倍；更激进的 GQA 键值分组还可能使每 token 能耗较标准多头注意力降至多三分之一。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。