实测显示GenieX的NPU解码仍偏慢

Reddit用户SkyFeistyLlama8实测高通GenieX，确认其可通过签名驱动在Snapdragon X、X2 Plus和Elite芯片的Hexagon NPU上运行任意GGUF模型，并支持Windows、Linux和Android，内置OpenAI兼容的llama-server。 在搭载骁龙X1E-78-100、64GB内存的ThinkPad T14s上，NPU解码速度为每秒32个token，约为CPU方案的一半，测试者怀疑受NPU内存带宽限制。因此，目前GenieX的NPU更适合预填充和低功耗场景，持续生成速度仍是短板。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。