AGI Hunt· This-Purchase-3325·· 59 分钟前AI 评分67
Gemma.c 单文件实现 Gemma 1/2/3 多模态 CPU 推理
Gemma.c:单文件 C 实现 Gemma 1/2/3 多模态推理,纯 CPU 跑 72 tok/s
AI 导读
Gemma.c 将 Gemma 1/2/3 推理引擎实现为一个仅依赖 libc 的 C 文件,支持 fp32、fp16、bf16 和 INT8 权重,并提供多模态输入能力。
来源:AGI Hunt · agihunt.info