跳到正文
AGI Hunt· yb2698·· 1 小时前AI 评分44

Pi 适配器 LoRA 可在 vLLM、llama.cpp、MLX 等任意平台运行

Pi 适配器 LoRA 可在 vLLM/llama.cpp/MLX 等任意平台运行

AI 导读

Pi 适配器 LoRA 可在 transformers serve、vLLM、sglang、llama.cpp 和 macOS 上的 MLX 等任意平台运行。该适配器也可合并进基座模型后运行,具体部署细节已写入模型卡。

来源:AGI Hunt · agihunt.info