AGI Hunt· AlpinDale·· 3 小时前AI 评分55
CUDA 默认 8 个工作队列可能导致 GPU 任务假依赖串行
CUDA 隐藏坑点:默认 8 工作队列可致 GPU 任务假依赖串行
AI 导读
CUDA 的 CUDADEVICEMAXCONNECTIONS 控制并发计算与拷贝引擎的工作队列数量,范围为 1-32,默认值为 8;不同 CUDA stream 的独立任务若映射到同一工作队列,可能产生假依赖并导致 GPU 任务串行化。
来源:AGI Hunt · agihunt.info