AGI Hunt· osanseviero·· 1 小时前AI 评分52
Gemma 3 270M 被编译进激光打印机,每 token 推理约 60 秒
Hugging Face 员工把 Gemma 3 270M 塞进激光打印机,60 秒吐一个 token
AI 导读
Hugging Face 工程师 osanseviero 借助 Carbon 编译器,将小型 Transformer 引擎和量化后的 Gemma 3 270M 编译为单个 PostScript 打印任务,使模型完全在办公室激光打印机内运行。
来源:AGI Hunt · agihunt.info