AGI Hunt· No-Dragonfly6246·· 3 小时前AI 评分63
浏览器实测Jetson运行INT4量化版Cosmos3-Edge
浏览器免费实测 Jetson:INT4 量化让 Cosmos3-Edge 挤进 8GB
AI 导读
作者通过Embedl浏览器平台实测Jetson设备农场,INT4量化与速度优化让Cosmos3-Edge得以在8GB显存的Orin Nano上运行,峰值显存为3.3GB。五个VLM基准的平均精度由65.56变为65.20,解码速度在Orin Nano Super 8GB上达到152.5 tok/s,在AGX Thor 128GB上达到207.8 tok/s,平台目前支持1000+模型。
来源:AGI Hunt · agihunt.info