跳到正文
AGI Hunt· ngxson·· 2 小时前AI 评分65

wllama v4.0.0 发布,浏览器内 LLM 推理最高提速 2.8 倍

AI 导读

wllama v4.0.0 发布,llama.cpp 的 WebAssembly 绑定库提升了浏览器内 LLM 推理与模型加载性能。作者在 Chrome 和 Firefox 实测中称,两项速度提升一倍以上,Chrome 上推理最高提速 2.8 倍,并支持加载更大的模型,新版本可直接在线试用。

来源:AGI Hunt · agihunt.info