Berth v0.3.4支持GPU按需直通
热点事件持续更新
Berth v0.3.4支持GPU按需直通
2 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
开源项目 Berth 发布 v0.3.4,新增实验性的 Linux GPU VFIO 直通功能,可将 RTX 4090 从聊天模型、Strata 引擎、ComfyUI 等本地工作负载切换给 Windows 虚拟机,并在使用后归还。 运行 `berth vfio run -- <脚本>` 时,Berth 会在安全时机排空推理引擎、确认没有进程占用显卡后切换驱动;Windows 虚拟机关机后,显卡自动交还 llama-swap 等本地推理服务。此外,新版网关不再向推理引擎传递节点 API key。
AI 根据报道生成 · 49 分钟前更新
最新进展10月23日 02:23
Berth v0.3.4 开源,实现 RTX 4090 在多类工作负载间按需租借报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- AGI HuntBerth v0.3.4 开源,实现 RTX 4090 在多类工作负载间按需租借
开发者开源 GPU 调度工具 Berth v0.3.4,可在聊天模型、Strata 引擎、ComfyUI 和 Windows 游戏虚拟机之间按需分配单张 24GB RTX 4090。新版本加入实验性 Linux GPU VFIO 直通,运行 `berth vfio run` 可在安全时机排空推理引擎,将 GPU 借给 Windows 虚拟机并在使用后安全归还。
10月22日
- AGI Hunt开源项目 Berth v0.3.4 发布 GPU 虚拟机直通与自动归还功能
开源项目 Berth 发布 v0.3.4,新增实验性 Linux GPU VFIO 直通功能,可将 4090 交给 Windows 虚拟机,并在关机后自动归还给 llama-swap 等本地推理服务。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。