伯克利、MIT等机构开源推理引擎 FreeToken

伯克利、MIT等机构推出开源推理引擎 FreeToken，使消费级 PC 可运行数千亿参数的 MoE 大模型。实测 RTX 5090 运行 DeepSeek 284B 可达 22–25 tok/s，本地可跑 290B 以上模型。其 GitHub 仓库采用 Apache-2.0 协议，已获 17.2k star 和 1.7k fork。