AGI Hunt· Rooneybuk·· 3 小时前AI 评分61
双 RTX 4060 Ti 运行本地 LLM 实测，35B 模型解码达 122.5 token/s
双 RTX 4060 Ti 跑本地 LLM 实测:35B 模型解码达 122.5 token/s
AI 导读
一位 Reddit 用户实测双 RTX 4060 Ti 16GB 运行本地 LLM，Qwen3.6-35B-A3B 量化模型解码速度达到 122.5 token/s。
来源：AGI Hunt · agihunt.info