Hugging Face Blog·· 2 天前精选AI 评分81
PyTorch 2.15 为 Mac MPS 加入 FP8 并加速模型运行
MPS in PyTorch 2.15
AI 导读
PyTorch 2.15 为 Mac 的 MPS 后端加入 FP8、专用 Metal 内核和更快的 LLM 解码路径。M3 Ultra 上 Qwen3.6-35B-A3B 从 9.4 提升至 61.3 tokens/s,Wan2.2 视频 VAE 解码峰值显存从约 270 GiB 降至约 8 GiB。运行要求更新为 macOS 15 或更高版本以及 Python 3.11 或更高版本。
推荐理由
PyTorch 2.15 通过性能与显存数据展示 Mac 端模型运行改进,并交代 FP8、Metal 内核和兼容性要求。
来源:Hugging Face Blog · huggingface.co