Inferact 日处理 token 超过 7 万亿

由 vLLM 创造者与核心维护者创办的推理平台 Inferact 宣布，目前每天向客户服务超过 7 万亿 token，并跨异构硬件运行多个前沿模型。作为参照，OpenRouter 过去 30 天平均日处理 19 万亿 token 的开放权重模型流量。Inferact Platform 定位为推理栈的控制平面，可针对每个模型、芯片和流量组合自动调优部署，以在相同 GPU 上提高吞吐并保持延迟稳定。