跳到正文
AGI Hunt· AIFlow_ML·· 1 小时前AI 评分56

Garlic LLM 越狱 PS4 运行 9B 模型,速度达 43 tokens/s

越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s

AI 导读

Garlic LLM 在越狱后的 PS4 上运行了 90 亿参数开源模型,最高速度达到 43 tokens/s。该方案绕过驱动,直接调用 2013 年主机 GPU 的裸性能。

来源:AGI Hunt · agihunt.info