跳到正文
AGI Hunt· teortaxesTex·· 57 分钟前AI 评分68

Project Maya v1.1.73 扩展 Inkling 2 Mini 硬件兼容性,RTX 4090 实测 144 tok/s

Project Maya 新版让 Inkling 2 Mini 跑进 8GB 显卡,4090 实测 144 tok/s

AI 导读

Project Maya 发布 v1.1.73,将 Inkling 2 Mini 的硬件运行范围扩展至 NVIDIA 8GB 显卡,并支持 V100、RTX 20 系列及部分 AMD GPU。8GB 显卡约需搭配 13GB 内存,Drafting 可自动启用且答案不变;作者在 RTX 4090 上实测达到 144 tok/s。

来源:AGI Hunt · agihunt.info