跳到正文
AGI Hunt· SkyFeistyLlama8·· 3 小时前AI 评分75

高通 GenieX 在 Snapdragon X 上运行 GGUF 模型的实测

高通 GenieX 让任意 GGUF 模型跑上骁龙 Hexagon NPU,附实测数据

AI 导读

高通 GenieX 可通过签名驱动让任意 GGUF 模型运行在 Snapdragon X、X2 Plus 和 Elite 芯片的 Hexagon NPU 上,支持 Windows、Linux 和 Android,并内置 OpenAI 兼容的 llama-server。

来源:AGI Hunt · agihunt.info