AGI Hunt· TheZachMueller·· 55 分钟前AI 评分73
HuggingArch 开源，可离线推算任意 HuggingFace 模型的 FLOPs 与显存
半年业余开发 HuggingArch：不跑 GPU 算清任意 HF 模型的 FLOPs 与显存
AI 导读
thuHanShen 用半年业余时间开发并开源 HuggingArch，可在没有 GPU、权重和运行时的情况下，计算任意 HuggingFace 模型的 FLOPs、内存流量与 KV cache 大小。
来源：AGI Hunt · agihunt.info