Inferact宣布日处理超7万亿Token
热点事件持续更新
Inferact宣布日处理超7万亿Token
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Inferact宣布，其推理平台目前每天为客户处理超过7万亿个token，并能在异构硬件上运行多个前沿模型。作为参照，OpenRouter过去30天平均每天处理约19万亿个开放权重模型流量，两者的服务范围并不完全相同。Inferact Platform定位为推理栈控制平面，可按模型、芯片和流量组合自动调优部署，以提高同型号GPU的吞吐并维持延迟稳定。
AI 根据报道生成 · 59 分钟前更新
最新进展11月6日 11:04
Inferact 日处理 token 超过 7 万亿报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- AGI HuntInferact 日处理 token 超过 7 万亿
由 vLLM 创造者与核心维护者创办的推理平台 Inferact 宣布，目前每天向客户服务超过 7 万亿 token，并跨异构硬件运行多个前沿模型。作为参照，OpenRouter 过去 30 天平均日处理 19 万亿 token 的开放权重模型流量。Inferact Platform 定位为推理栈的控制平面，可针对每个模型、芯片和流量组合自动调优部署，以在相同 GPU 上提高吞吐并保持延迟稳定。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。