NVIDIA发布了全新的 H200 Hopper GPU，该 GPU现在配备了美光公司生产的世界上最快的 HBM3e 内存。除了新的人工智能平台，NVIDIA还宣布其Grace Hopper超级芯片在超级计算机领域取得重大胜利，该芯片现在为Exaflop Jupiter超级计算机提供动力。
NVIDIA的H100 GPU是迄今为止业界需求量最大的人工智能芯片，但NVIDIA希望为客户提供更高的性能。HGX H200是最新的人工智能高性能计算平台，由H200 Tensor Core GPU驱动。这些 GPU 在硬件和软件上都采用了最新的 Hopper 优化技术，同时提供了迄今为止世界上最快的内存解决方案。
NVIDIA H200 GPU配备了美光的HBM3e显存解决方案，容量最高可达141 GB，带宽达4.8 TB/s，与NVIDIAA100相比带宽增加了2.4倍，容量增加了一倍。在Llama 2（700亿参数LLM）等应用中，这种新的内存解决方案使英伟达的人工智能推理性能比H100 GPU提高了近一倍。
在解决方案方面，NVIDIAH200 GPU将广泛应用于4路和8路GPU配置的HGX H200服务器。HGX 系统中的 8 路 H200 GPU 配置可提供 32 PetaFLOPs 的 FP8 计算性能和 1.1 TB 的内存容量。
这些 GPU 还将与现有的 HGX H100 系统兼容，使客户更容易升级他们的平台。NVIDIA合作伙伴，如华硕（ASUS）、华擎（ASRock Rack）、戴尔（Dell）、Eviden、技嘉（GIGABYTE）、惠普（Hewlett Packard Enterprise）、英格拉思（Ingrasys）、联想（Lenovo）、QCT、威联（Wiwynn）、超微（Supermicro）和纬创（Wistron），这些厂商将在2024年第二季度H200 GPU上市时提供更新的解决方案。
除了发布 H200 GPU 之外，NVIDIA还宣布了一项由其 Grace Hopper 超级芯片（GH200）驱动的大型超级计算机项目。这台超级计算机被称为"木星"（Jupiter），位于德国尤利希研究中心（Forschungszentrum Jülich），是欧洲高性能计算联合项目（EuroHPC Joint Undertaking）的一部分，由 Eviden 和 ParTec 公司承包。这台超级计算机将用于材料科学、气候研究、药物发现等领域。这也是英伟达于11月发布的第二台超级计算机，上一台是Isambard-AI，可提供高达21 Exaflops的人工智能性能。
在配置方面，Jupiter 超级计算机基于 Eviden 的 BullSequana XH3000，采用全液冷架构。它总共拥有 24000 个英伟达 GH200 Grace Hopper 超级芯片，这些芯片通过公司的 Quantum-2 Infiniband 互联。考虑到每个格雷斯 CPU 包含 288 个 Neoverse 内核，我们将看到 Jupiter 单是 CPU 方面就有近 700 万个 ARM 内核（确切地说是 691.2 万个）。
性能指标包括 90 Exaflops 的人工智能训练和 1 Exaflop 的高性能计算。这台超级计算机预计将于 2024 年安装完毕。总体而言，这些都是英伟达公司面向未来的重大更新，它将继续以其强大的硬件和软件技术引领人工智能世界的发展。