AGI Hunt· PyTorch·· 3 小时前精选AI 评分80
PyTorch 发布 ExecuTorch WebGPU 后端，支持浏览器本地运行 LLM
PyTorch 推出 ExecuTorch WebGPU 后端：浏览器本地跑 LLM 提速最高 7 倍
AI 导读
PyTorch 团队发布 ExecuTorch WebGPU 后端，使 PyTorch 模型可直接在 Chrome、Safari 等浏览器的 WebGPU 上本地运行，并通过 torch.export 导出后复用同一 .pte 文件。
推荐理由
文章给出了 WebGPU 后端的导出方式、已验证模型和性能数据，读者可据此评估浏览器端本地推理的部署路径。
来源：AGI Hunt · agihunt.info