AGI Hunt· yb2698·· 1 小时前AI 评分44
Pi 适配器 LoRA 可在 vLLM、llama.cpp、MLX 等任意平台运行
Pi 适配器 LoRA 可在 vLLM/llama.cpp/MLX 等任意平台运行
AI 导读
Pi 适配器 LoRA 可在 transformers serve、vLLM、sglang、llama.cpp 和 macOS 上的 MLX 等任意平台运行。该适配器也可合并进基座模型后运行,具体部署细节已写入模型卡。
来源:AGI Hunt · agihunt.info