AGI Hunt· dejanseo·· 3 小时前AI 评分47
GPU 过热降频:训练莫名变慢的元凶是热力学
GPU 过热降频:训练莫名变慢的元凶是热力学
AI 导读
GPU 过热触发热节流,会让模型训练在看似正常运行时意外变慢。某次训练中 GPU 温度达到 88°C,SM 时钟被压至 1515 MHz,仅为最大 3105 MHz 的 49%;尽管功耗为 120W、利用率为 100%,吞吐仍只有 123K tokens/s,step 时间为 316ms,因此自建训练或微调环境应同步监控温度与 SM 时钟。
来源:AGI Hunt · agihunt.info