PyTorch 实测 batching：吞吐大涨而延迟仅微增

开发者在 PyTorch 2.8.0 的 MPS 设备上实测小型神经网络，将 batch size 从 1 提升至 64 后，GPU 每秒处理请求数最高增加约 50 倍，单批延迟仅增长约 24%。测试显示，增大 batch 能显著提升 GPU 利用率和整体吞吐，但会略微延长单个批次的完成时间。