跳到正文
AGI Hunt· Distinct-Pie2389·· 1 小时前AI 评分42

16GB 显卡实测 Inkling-2-Mini:快 19 分钟但远不及 27B 档

16GB 显卡实测 Inkling-2-Mini:快 19 分钟但远不及 27B 档

AI 导读

16GB 显卡用户实测 Inkling-2-Mini,在 Q4KXL、262K 上下文和 INT8 KV 配置下耗时约 1 小时。其 airbench 最好成绩为 98%(取最好 2/3),比 27B 模型的 1 小时 24 分更快,但真实任务表现未达到 27B 档。

来源:AGI Hunt · agihunt.info