跳到正文
AGI Hunt· JosephJacks_·· 4 小时前AI 评分45

MacPaw Elix 号称 Apple 芯片最快推理引擎,33项测试全胜

MacPaw Elix 号称 Apple 芯片最快推理引擎,33项全胜

AI 导读

MacPaw 更新端侧 agentic AI runtime「Elix」,在 5 台 Mac、7 个 LiquidAI 4-bit 模型和 33 组 chip×model 测试中均取得最快端到端性能。其 decode 平均速度快 37%,32K 上下文下快 43%;Elix 目前仍在开发中,需申请 demo。

来源:AGI Hunt · agihunt.info