AGI Hunt· xrailgun·· 3 小时前AI 评分59
NInfer v0.3.0 发布，支持魔改 22GB RTX 2080 Ti 原生 Windows 本地推理
魔改 2080 Ti 22G 专精引擎 NInfer v0.3.0:原生 Windows、体积砍到 0.28GB
AI 导读
NInfer v0.3.0 面向单张魔改 22GB RTX 2080 Ti 发布，主打 Qwen3.6/8-27B 稠密模型的本地推理。新版支持原生 Windows，提供预编译包，二进制体积从 1.56GB 缩至 0.28GB，并提供 OpenAI/Anthropic 兼容 API 和命令行工具。
来源：AGI Hunt · agihunt.info