AGI Hunt· JiaZhihao·· 2 小时前AI 评分56
Lithos AI 发布推理引擎，8 张 AMD MI355X 上 DeepSeek V4.1 Flash 达每用户 2116 tokens/秒
Lithos 引擎在 8 张 AMD MI355X 上跑出每用户 2116 tokens/秒
AI 导读
Lithos AI 发布号称 AMD GPU 上最快的推理引擎，在 8 张 AMD Instinct MI355X 上 DeepSeek V4.1 Flash 达到每用户 2116 tokens/秒，Kimi K3 达 652 tokens/秒，作者称其比同类开源引擎分别快最多 3.4 倍和 2.5 倍。
来源：AGI Hunt · agihunt.info