跳到正文
AGI Hunt· TheMoonMidas·· 3 小时前AI 评分53

MLX-Serve 26.11.1 将全面重写并引入模型与量化插件架构

MLX-Serve 全面重写:插件架构支持任意模型与量化格式免重编译接入

AI 导读

MLX-Serve 26.11.1 将全面重写引擎,采用积木式插件架构,支持用 C/C++/Rust/Zig 编写插件并免重编译接入新模型、量化类型和媒体引擎。发布时将附带 TurboEXL3 与 Deepseek Sushi STQ 两个插件,插件无需中心注册表,但需从 GitHub 下载并自行编译。

来源:AGI Hunt · agihunt.info