跳到正文
AGI Hunt· Teknium·· 3 小时前AI 评分55

Teknium 示范 Hermes Cloud 接入本地 vLLM 端点,Web 版工作区即将上线

Teknium 示范 Hermes Cloud 接本地 vLLM 端点,Web 版工作区即将上线

AI 导读

Nous Research 创始人 Teknium 示范了在 Hermes Cloud 中接入私有模型端点的方法。用户可在 dashboard 选择 custom model provider,填写本地 vLLM 实例的 IP 地址和端口,也可以让 Hermes 协助完成配置;Hermes Cloud 的 Web 版工作区即将上线。

来源:AGI Hunt · agihunt.info