跳到正文
AGI Hunt· ecs-lab·· 4 小时前AI 评分51

博洛尼亚大学与 CINECA 提出四参数定律预测 LLM 推理能耗

四参数定律预测 LLM 推理能耗:R²达 0.969,横跨五大模型家族

AI 导读

博洛尼亚大学与 CINECA 团队提出 SIMPLE Law,以四项架构超参数直接预测 LLM 推理能耗,并将 prefill 与 decode 成本分离。

来源:AGI Hunt · agihunt.info