AGI Hunt· nickm_27·· 4 小时前AI 评分53
llama.cpp 重构 Intel XMX 矩阵引擎，提升 B70 投机解码性能
llama.cpp 重构 Intel XMX 矩阵引擎,B70 投机解码提速近一倍
AI 导读
llama.cpp 合入 PR #29864，将 Intel XMX 矩阵引擎重构为多列布局，以提升 Intel B70 GPU 上的 SYCL 投机解码速度。
来源：AGI Hunt · agihunt.info
llama.cpp 重构 Intel XMX 矩阵引擎，提升 B70 投机解码性能