AGI Hunt· HankYeomans·· 9 小时前AI 评分58
开源本地推理引擎 TensorFold 发布 1.2.5 版本
TensorFold 1.2.5 发布：本地推理引擎，Nemotron 3.5 达 874 tok/s
AI 导读
开源本地推理引擎 TensorFold 发布 1.2.5 版本，支持在自有 GPU 或 Mac 上运行开源模型，并原生支持 Metal 与 CUDA。
来源：AGI Hunt · agihunt.info
开源本地推理引擎 TensorFold 发布 1.2.5 版本