DankpawsDev开源DankAttn推理引擎
热点事件持续更新
DankpawsDev开源DankAttn推理引擎
1 篇报道1 个报道来源40 分钟前更新
先了解这件事
AI 综述
DankpawsDev以MIT许可开源DankAttn,为Thinking Machines的Inkling-2-Mini提供Apple Silicon端Metal推理后端;该项目同时附带约19GB的预打包权重,测试中运行Inkling-2-Mini最高达到144.5 tok/s。 DankAttn由Objective-C++和Metal着色语言从零编写,面向26.4B参数的MoE模型,内置DSpark投机起草器,并支持NVFP4/MXFP8专家。其作用是让Inkling-2-Mini能够在Apple Silicon设备上运行,而非仅面向苹果芯片提供通用推理功能。
AI 根据报道生成 · 6 分钟前更新
最新进展11月23日 02:03
DankAttn开源Metal 4推理引擎,运行Inkling-2-Mini最高达144.5 tok/s报道时间线
沿着报道,了解事件的不同侧面。
11月23日
- AGI HuntDankAttn开源Metal 4推理引擎,运行Inkling-2-Mini最高达144.5 tok/s
DankpawsDev开源Metal 4推理引擎DankAttn,为Inkling-2-Mini提供Apple Silicon后端,并附带约19GB预打包权重。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。