AGI Hunt· jacek2023·· 2 小时前AI 评分28
llama.cpp PR #31356 优化 Gemma 2B/4B 图计算,提升 prompt 处理速度
llama.cpp 新 PR 为 Gemma 2B/4B 带来大幅 prompt 处理提速
AI 导读
开发者向 llama.cpp 提交 PR #31356,通过图优化提升 Gemma4 E2B/E4B 的 prompt processing(pp)速度。该 PR 已获 14 条评论、11 次评审,包含 13 个 commit,代码变动为 +71/-26 行。
来源:AGI Hunt · agihunt.info