NVIDIA Blog· Hannah Coutand·· 5 小时前AI 评分56
NVIDIA Vera CPU兼顾高吞吐与高速智能体执行
Vera Delivers the Best of Both Worlds: Highest Throughput and Fastest Agents
AI 导读
NVIDIA称，Vera CPU在100-megawatt数据中心对比中同时提供更快的智能体执行速度和更高的每瓦智能体容量。相较最快的x86 CPU，Vera可支持1.6x更多智能体/瓦；相较能效最高的x86 CPU，智能体速度达到2x。Perplexity的智能体编码任务速度提升1.5x，DeepInfra在智能体编排中最高达到所测四种架构中最快的结果。
来源：NVIDIA Blog · blogs.nvidia.com