AGI Hunt· the-random-guy-2002·· 3 小时前AI 评分32
GTX 1650 跑 LLM 基准:GPU 热节流下吞吐量暴跌 31%
GTX 1650 跑 LLM 基准:GPU 过热致吞吐量暴跌 31%
AI 导读
Reddit 网友在 GTX 1650 上为小型 Transformer 实现 KV caching 后发现,重复 512-token 生成从 2.77 秒增至 4.04 秒,吞吐量由约 185 降至 127 tokens/sec,跌幅约 31%。GPU 后期温度达到 84–87°C、活跃频率下降,但作者未做时间戳对齐,无法将减速完全归因于热节流。
来源:AGI Hunt · agihunt.info