开发者发布开源 GPU 资源管理器 Berth

Distinct-Pie2389 开发者发布 Go 编写的开源轻量 GPU 资源管理器 Berth alpha v0.4.1，通过租约、优先级和请求队列管理 GPU 访问，减少应用争抢显存。该版本为单二进制、无云依赖，支持 Linux 下的 NVIDIA GPU，并实验性支持 AMD 和 Windows，可用于共享单卡上的本地大语言模型、图像生成、语音和游戏任务。 Berth 支持 llama.cpp 与 ComfyUI 快速切换，并可将支持的引擎驻留系统内存或使用 CUDA checkpoint，以避免重复从磁盘加载大模型。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。