跳到正文
AGI Hunt· LiTianleli·· 3 小时前AI 评分39

Inkling-2-Mini 获好评:称胜过 Qwen3 8B 且推理更快

Inkling-2-Mini 获好评:称胜过 Qwen3 8B 且推理更快

AI 导读

博主 AestherML 转发评价称,本地模型 Inkling-2-Mini 表现明显优于 Qwen3 8B 27B(原文如此),选对推理引擎后速度也更快。相关实测提及其在 2x3090 上本地运行达到 170 tok/s,但另有部署反馈称官方 GGUF 版本存在乱码,单卡速度仅 30 tok/s。

来源:AGI Hunt · agihunt.info