AGI Hunt· SeanHighness·· 3 小时前AI 评分69
SeanHighness 实测 12GB RTX 3060 本地推理速度达 72 tok/s
12GB 的 3060 跑出 72 tok/s:Reddit 用户榨干老旧 GPU 的本地推理实测
AI 导读
Reddit 用户 SeanHighness 分享了 12GB RTX 3060 的本地推理实测，基于 Esha Labs 的 W2 移植分支 L0xRE-BeeLLama-Low，代码生成速度达 72-76 tok/s。
来源：AGI Hunt · agihunt.info