AGI Hunt· techNmak·· 2 小时前AI 评分47
GPU 如何执行 AI 负载：从 CUDA 调度到 Tensor Core 的全图解
同一模型同卡可先卡内存后卡算力：GPU 执行原理全图解
AI 导读
GPU 执行 AI 负载时，同一 LLM 在 batch size 1 下通常受内存带宽限制，batch 变大后可能转为算力受限，因此仅看 FLOP 数无法预测实际速度。
来源：AGI Hunt · agihunt.info
GPU 如何执行 AI 负载：从 CUDA 调度到 Tensor Core 的全图解