Leviathan 开源本地 LLM 推理套件
热点事件持续更新
Leviathan 开源本地 LLM 推理套件
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
独立开发者 The-world-is-a-stage 开源了 Leviathan，这是一套完全在本地运行的 LLM 推理工具集：模型直接运行在 GPU 上，不依赖 server、llama.cpp 或 LM Studio。项目采用手写 CUDA 内核，支持多种量化及全精度模型变体，并整合 30 多种架构的合并工具，可在 GitHub 免费获取，同时提供 Hugging Face Space。
AI 根据报道生成 · 2 小时前更新
最新进展10月25日 11:33
独立开发者开源 Leviathan 本地 LLM 推理套件报道时间线
沿着报道，了解事件的不同侧面。
10月25日
- AGI Hunt独立开发者开源 Leviathan 本地 LLM 推理套件
一位独立开发者开源 Leviathan，这是一套纯本地运行的 LLM 推理工具集，模型直接在 GPU 上运行，不依赖 server、llama.cpp 或 LM Studio。项目手写 CUDA 内核，支持多种量化和全精度变体，并整合 30 多个架构及可预览合并结果的 merge 工具，已在 GitHub 发布并附带 Hugging Face Space。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。