Nvidia H100 80G*8 NVLink 用于人工智能和高性能计算的加速服务器平台， 随着 HGX H100 计算和网络能力的大幅增加， AI 和 HPC 应用程序的性能得到了极大的提高。

CPU:Intel8468 48核心21GHZ-38GHZ*2;

内存:64G-DDR5-ECC*32;

系统盘:960GSSD SATA*2;

数据盘:7.68T SSD NVSwitch*2;

GPU:NVIDA H100 80G*8 NVLink;

IB卡:CONNECTX-7NDR/400G单口*4;

IB卡:CONNECTX-6 MCX653106A-HDAT

HDR/200G双口*1;

电源:3000W*6.

 随着 HGX H100 计算和网络能力的大幅增加， AI 和 HPC 应用程序的性能得到了极大的提高。目前的主流 AI 和 HPC 模型可以完全驻留在单个节点的聚合 GPU 内存中。例如， BERT -Large 、 Mask R-CNN 和 HGX H100 是最高效的培训解决方案。对于更先进、更大的 AI 和 HPC 模型，该模型需要多个聚合 GPU 内存节点才能适应。例如，具有 TB 级嵌入式表的深度学习推荐模型（ DLRM ）、大量混合专家（ MoE ）自然语言处理模型，以及具有 NVLink 网络的 HGX H100 加速了关键通信瓶颈，是此类工作负载的最佳解决方案。