开发者开源 DynaLM 推理引擎

开发者开源发布 DynaLM，这是一款不依赖 GPU、以 CPU 为优先的本地大语言模型推理引擎，提供 OpenAI 兼容 API，目标是在无 GPU 的机器上运行模型。 项目方明确表示不声称 DynaLM 比现有推理运行时更快，并呼吁社区在不同 CPU 与操作系统上测试、复现性能基准并审查推理与 kernel 实现，同时参与修复 GitHub issues 和排查性能问题。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。