跳到正文
热点事件持续更新

DankpawsDev开源DankAttn推理引擎

1 篇报道1 个报道来源40 分钟前更新

先了解这件事

AI 综述

DankpawsDev以MIT许可开源DankAttn,为Thinking Machines的Inkling-2-Mini提供Apple Silicon端Metal推理后端;该项目同时附带约19GB的预打包权重,测试中运行Inkling-2-Mini最高达到144.5 tok/s。 DankAttn由Objective-C++和Metal着色语言从零编写,面向26.4B参数的MoE模型,内置DSpark投机起草器,并支持NVFP4/MXFP8专家。其作用是让Inkling-2-Mini能够在Apple Silicon设备上运行,而非仅面向苹果芯片提供通用推理功能。

AI 根据报道生成 · 6 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月23日
  1. AGI Hunt
    DankAttn开源Metal 4推理引擎,运行Inkling-2-Mini最高达144.5 tok/s

    DankpawsDev开源Metal 4推理引擎DankAttn,为Inkling-2-Mini提供Apple Silicon后端,并附带约19GB预打包权重。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。