跳到正文
AGI Hunt· ycombinator·· 1 小时前AI 评分68

RightNow 推出 GPU 内核优化推理 API,称 NVIDIA 性能提升 14 倍

RightNow 推出推理 API:GPU 内核优化号称让 NVIDIA 性能提升 14 倍

AI 导读

YC 孵化的 RightNow AI 推出自有推理 API,主打 GPU 内核层优化,称其内核可使 NVIDIA 性能提升 14 倍。API 按 token 计费,支持半价批量处理、容量预留和专属部署,默认零数据保留,已上线 DeepSeek V4.1 Flash、GLM 5.3、GLM 5.3 Flash 和 NVIDIA Nemotron 3.5 Lightning 30B。

来源:AGI Hunt · agihunt.info