跳到正文
热点事件持续更新

Berth v0.3.4支持GPU按需直通

2 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

开源项目 Berth 发布 v0.3.4,新增实验性的 Linux GPU VFIO 直通功能,可将 RTX 4090 从聊天模型、Strata 引擎、ComfyUI 等本地工作负载切换给 Windows 虚拟机,并在使用后归还。 运行 `berth vfio run -- <脚本>` 时,Berth 会在安全时机排空推理引擎、确认没有进程占用显卡后切换驱动;Windows 虚拟机关机后,显卡自动交还 llama-swap 等本地推理服务。此外,新版网关不再向推理引擎传递节点 API key。

AI 根据报道生成 · 49 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. AGI Hunt
    Berth v0.3.4 开源,实现 RTX 4090 在多类工作负载间按需租借

    开发者开源 GPU 调度工具 Berth v0.3.4,可在聊天模型、Strata 引擎、ComfyUI 和 Windows 游戏虚拟机之间按需分配单张 24GB RTX 4090。新版本加入实验性 Linux GPU VFIO 直通,运行 `berth vfio run` 可在安全时机排空推理引擎,将 GPU 借给 Windows 虚拟机并在使用后安全归还。

10月22日
  1. AGI Hunt
    开源项目 Berth v0.3.4 发布 GPU 虚拟机直通与自动归还功能

    开源项目 Berth 发布 v0.3.4,新增实验性 Linux GPU VFIO 直通功能,可将 4090 交给 Windows 虚拟机,并在关机后自动归还给 llama-swap 等本地推理服务。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。