AGI Hunt· XiRw·· 3 小时前AI 评分23
Cohere 与 Palantir 合作模型实测:最高 670 tokens/s 输出速度引发争议
Cohere 与 Palantir 合作模型实测:最高 670 tokens/s 输出速度引争议
AI 导读
Cohere 与 Palantir 合作交付的 north-mini-code 模型实测峰值速度达 670.50 tokens/s,采用 Q8、F16 KV Cache 配置。测试以生成“骑自行车的鹈鹕 SVG”为例,截图显示输出质量与速度之间似乎存在明显取舍,并引发对合作交付效果的讨论。
来源:AGI Hunt · agihunt.info