跳到正文
热点事件持续更新

Inkling-2-Mini双卡本地演示引关注

2 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

博主 loktar00 分享 Inkling-2-Mini 本地演示,称该模型在两张 RTX 3090 上达到 170 tok/s,并正扩展至四卡配置;博主 AestherML 转发评价称,其表现明显优于 Qwen3 8B 27B(原文如此),选对推理引擎后速度也更快。 但这些结论来自个人实测与转述。另有部署反馈指出,官方 GGUF 版本会出现乱码,单卡速度仅 30 tok/s,显示模型版本、推理引擎和硬件配置会影响实际表现。

AI 根据报道生成 · 3 小时前更新

事件进展

2 个进展

  1. 11月21日 16:27 · 1 篇报道
    分享 Inkling-2-Mini 双卡本地演示
    AGI Hunt:Inkling-2-Mini 本地部署实测:2x3090 跑出 170 tok/s
  2. 11月21日 16:27 · 1 篇报道
    AestherML评价Inkling-2-Mini表现
    AGI Hunt:Inkling-2-Mini 获好评:称胜过 Qwen3 8B 且推理更快

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. AGI Hunt
    Inkling-2-Mini 本地部署实测:2x3090 跑出 170 tok/s

    博主 loktar00 分享 Inkling-2-Mini 本地演示,称该模型在 2 张 3090 上跑出 170 tok/s。演示正扩展至 4x3090 配置,后续将发布更多结果与统计数据;相关转发认为其表现优于 Qwen3 同级模型。

  2. AGI Hunt
    Inkling-2-Mini 获好评:称胜过 Qwen3 8B 且推理更快

    博主 AestherML 转发评价称,本地模型 Inkling-2-Mini 表现明显优于 Qwen3 8B 27B(原文如此),选对推理引擎后速度也更快。相关实测提及其在 2x3090 上本地运行达到 170 tok/s,但另有部署反馈称官方 GGUF 版本存在乱码,单卡速度仅 30 tok/s。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月21日 17:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。