跳到主内容
@wquguru
精选65IT之家(RSS)行业动态多源精选 ×2

英伟达 Vera CPU 智能体 AI 负载比英特尔快 2.2 倍

智能体 AI 测试:英伟达 Vera CPU 比英特尔 Sapphire Rapids 快 2.2 倍

原文
发到 X

IT之家 7 月 22 日消息,云端 AI 推理平台 DeepInfra 昨日(7 月 21 日)发布博文,报道称在生产环境下智能体 AI(Agentic AI)负载测试显示,英伟达 Vera CPU 速度是其它 CPU 的 2 倍多。

英伟达在此前官方博文中指出,相比较 AMD 的 Turin 9755 处理器,Vera CPU 在处理智能体 AI 负载上的性能提升 80%。

而在 DeepInfra 最新测试中,英伟达 Vera CPU 的 runc(基于 Linux 内核特性的“进程级”轻量化容器)延迟为 29ms,而英特尔 Sapphire Rapids 为 64ms,英伟达 Vera 快 2.2 倍。IT之家附上相关截图如下:

图源:deepinfra

测试环境使用统一条件:每次运行均为 20 个物理核、每核 1 线程、单 NUMA 节点,并启用 CPU confinement,超出核预算的运行会被丢弃。

芯片Kata ms (deployed)runc ms (intrinsic)IPC
NVIDIA Vera58293.62
AMD Zen5 Turin8735
Intel Granite Rapids103512.44
Intel Sapphire Rapids122642.44

相关阅读:

  • 《英伟达详解 Vera CPU:专为智能体 AI 构建,88 个 Olympus 核心、1.2 TB/s LPDDR5X 内存》

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

关联讨论

同一事件的更多信源

相似阅读

另一事件,读法相近