跳到正文
AGI Hunt· osanseviero·· 1 小时前AI 评分52

Gemma 3 270M 被编译进激光打印机,每 token 推理约 60 秒

Hugging Face 员工把 Gemma 3 270M 塞进激光打印机,60 秒吐一个 token

AI 导读

Hugging Face 工程师 osanseviero 借助 Carbon 编译器,将小型 Transformer 引擎和量化后的 Gemma 3 270M 编译为单个 PostScript 打印任务,使模型完全在办公室激光打印机内运行。

来源:AGI Hunt · agihunt.info