AGI Hunt· No-Dragonfly6246·· 3 小时前AI 评分67
Embedl 发布 Qwen3.8-27B 的 Jetson Thor 高速部署方案
Embedl 把 Qwen3.8-27B 压进 Jetson Thor:解码 40 tok/s,精度反超 FP16
AI 导读
Embedl 发布 Qwen3.8-27B 在 Jetson AGX Thor 上的高速度部署方案，batch 1 下解码速度为 39.6 tok/s，端到端速度为 23.6 tok/s，峰值显存为 24.8 GiB。
来源：AGI Hunt · agihunt.info