NVIDIA 发布新一代 GH200 Grace Hopper 超等芯片平台，迎接加快计较和生成式 AI 时期的到来 “NVIDIA 在本日发布新一代 NVIDIA GH200 Grace Hopper 平台，该平台基在全球首款搭载 HBM3e 处置器的 Grace Hopper 超等芯片，专为加快计较和生成式 AI 时期而构建。

全球首款 HBM3e 处置器供给冲破性的内存和带宽；可以或许毗连多个 GPU 以实现出色的机能；采取易在扩大的办事器设计。NVIDIA 在本日发布新一代 NVIDIA GH200 Grace Hopper 平台，该平台基在全球首款搭载 HBM3e 处置器的 Grace Hopper 超等芯片，专为加快计较和生成式 AI 时期而构建。新平台专为处置年夜说话模子、保举系统、矢量数据库等全球最复杂的生成式 AI 工作负载而构建，将供给多种设置装备摆设选择。该平台采取双设置装备摆设——供给的内存容量和带宽比当前产物别离增添了 3.5 倍和 3 倍——包罗一个具有 144 个 Arm Neoverse 内核、8 petaflops 的 AI 机能和 282GB 最新 HBM3e 内存手艺的单个办事器。NVIDIA 开创人兼首席履行官黄仁勋暗示：“为了知足对生成式 AI 不竭激增的需求，数据中间需要可以或许知足特定需求的加快计较平台。全新 GH200 Grace Hopper 超等芯片平台以超卓的内存手艺和带宽，提高了吞吐量，在不影响机能的环境下可毗连多 GPU 以整合机能，而且具有可以轻松摆设到全部数据中间的办事器设计。”新平台采取了 Grace Hopper 超等芯片，可以经由过程NVIDIA NVLink 与其他超等芯片毗连，使它们可以或许协同工作，从而摆设当下年夜型生成式 AI 模子。这类高速、一致性手艺使 GPU 可以完全拜候 CPU 内存，在双设置装备摆设中可供给总计 1.2TB 的快速内存。HBM3e 内存比当前 HBM3 快 50%，可供给总计 10TB/s 的带宽。这使得新平台可以或许运行比上一版本年夜 3.5 倍的模子，同时凭仗快 3 倍的内存带宽晋升机能。对 Grace Hopper 的需求不竭增加业界领先的制造商已在供给基在先前发布的 Grace Hopper 超等芯片所打造的系统。为了鞭策该手艺的普遍利用，采取 HBM3e 的新一代 Grace Hopper 超等芯片平台与本年早些时辰在 COMPUTEX 上发布的NVIDIA MGX 办事器规格完全兼容。借助 MGX，任何系统制造商都可以快速、经济地将 Grace Hopper 添加到 100 多款办事器机型中。供给环境估计业界领先的系统制造商将在 2024 年第二季度最先交付搭载该平台的系统。接待不雅看黄仁勋的SIGGRAPH 主题演讲，领会有关 Grace Hopper 的更多信息。关在NVIDIA自 1993 年成立以来，NVIDIA(NASDAQ: NVDA) 一向是加快计较范畴的前驱。NVIDIA 1999 年发现的 GPU 驱动了 PC 游戏市场的增加，并从头界说了现代计较机图形，开启了现代 AI 时期，正在鞭策跨市场的工业数字化。NVIDIA 此刻是一家全栈计较公司，其数据中间范围的解决方案正在重塑全部行业。更多信息，请拜候https://nvidianews.nvidia.com/。