Jetson AGX Xavier本地运行Qwen实测
热点事件持续更新
Jetson AGX Xavier本地运行Qwen实测
1 篇报道1 个报道来源54 分钟前更新
先了解这件事
AI 综述
作者将2018年发布的Jetson AGX Xavier改造成本地大模型设备，在512 token提示长度下运行Qwen3.8 27B，预填充峰值达到106 tok/s；结合Qwen3.8 2B草稿模型后，正文记录的解码速度约为13.4 tok/s。 该设备配备32GB LPDDR4x内存和136GB/s带宽。报道标题称解码速度为17 tok/s，与正文数据不一致，较明确的实测结论是正文所列的约13.4 tok/s。
AI 根据报道生成 · 27 分钟前更新
最新进展11月14日 03:57
2018 年的 Jetson AGX Xavier 跑 Qwen3.8 27B：decode 17 tok/s 的完整折腾记录报道时间线
沿着报道，了解事件的不同侧面。
11月14日
- AGI Hunt2018 年的 Jetson AGX Xavier 跑 Qwen3.8 27B：decode 17 tok/s 的完整折腾记录
作者将 2018 年的 Jetson AGX Xavier 改造成本地 LLM 机，在 512 token prompt 下，Qwen3.8 27B 的 prefill 峰值为 106 tok/s，配合 Qwen3.8 2B draft 后 decode 约 13.4 tok/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。