可规模化单线程最强 CPU:英伟达 Vera 在智能体 AI 负载下持续性能是 x86 的 1.8 倍

买玉网 2 0

6 月 29 日消息,英伟达昨日(7 月 7 日)发布博文,指出在智能体 AI 时代,NVIDIA Vera CPU 成为“可规模化单线程最强 CPU”,持续单核性能是 x86 的 1.8 倍。

在博文中,英伟达提出“可规模化单线程最强 CPU”(Max single-threaded CPUs at scale)概念,指出在智能体 AI 推理、响应和学习过程中,CPU 需要承担工具调用、代码执行、数据处理、KV 缓存和结果分析等任务,而单线程是衡量速度的一个关键指标。

英伟达在官方博文中指出,NVIDIA Vera 就是此类新型 CPU 的代表,面向智能体循环中的串行步骤设计,相比较 NVIDIA Grace,其自研 Olympus CPU 核心每周期指令数高 50%。

在硬件参数方面,Vera 配备最高 1.2TB/s 的 LPDDR5X 内存带宽,内存功耗低于 40 瓦;同时采用单片计算裸片设计,核心间带宽为 3.4TB/s。

在性能对比方面,英伟达称,在智能体 AI 执行的满载 CPU 工作负载中,Vera 的单核持续性能为 x86 的 1.8 倍。

Perplexity 测试一项真实编码流程,即克隆代码仓库并在沙箱中运行测试套件,结果显示 Vera 完成任务速度约为 x86 的 1.5 倍,并发沙箱启动速度最高为 x86 的 1.9 倍。

在数据处理类负载中,合作伙伴测试显示,Vera 运行 Starburst(分布式 SQL 分析平台)的大规模 SQL 分析速度可达领先 x86 服务器 CPU 的 3 倍;在 Redpanda(流式数据平台)实时流处理场景中,延迟最高可降低至 1/6。

发表评论 (已有0条评论)

还木有评论哦,快来抢沙发吧~