高性能计算、人工智能/深度学习训练和推理、大型语言模型 (LLM) 和生成式人工智能、
主要功能
NVIDIA Grace™ Hopper 超级芯片(Grace CPU 和 H100 GPU);
CPU 与 GPU 之间的 NVLink® Chip-2-Chip (C2C) 高带宽、低延迟互连,速度达 900GB/s;
每个节点高达 624GB 的一致性内存,包括 480GB LPDDR5X 和 144GB HBM3e 用于 LLM 应用;
3x PCIe 5.0 X16 支持 1 个 NVIDIA Bluefield 3 和 2 个 connectX-7 卡,每个节点 1x PCIe 5.0 x8 插槽支持 1 个 10GB LP NIC 卡;
6 个带可选速度控制的热插拔重型风扇;
外形尺寸
机箱:438.4 x 87 x 900 毫米(17.3 英寸 x 3.43 英寸 x 35.43 英寸)
封装:700 x 280 x 1200 毫米(27.56 英寸 x 11.02 英寸 x 47.24 英寸)
支持 GPU:英伟达™(NVIDIA®):基于 GH200 Grace Hopper™ 超级芯片(风冷)的 H100 张量核 GPU
CPU-GPU 互连:NVLink®-C2C
GPU-GPU 互连NVIDIA® NVLink®
系统内存插槽数:板载内存
附加 GPU 内存最高 144GB ECC HBM3
默认驱动器托架配置:共 3 个托架
3 个前置热插拔 E1.S NVMe 驱动器托架
M.2:2 个 M.2 NVMe 插槽 (M-key)
扩展插槽 默认
3 个 PCIe 5.0 x16(x16 内)FHFL 插槽
板载设备 片上系统
输入/输出 LAN:1 个 RJ45 1 GbE 专用 BMC LAN 端口
视频1 个微型 DP 端口
系统冷却风扇: 6 个可拆卸的重型 6 厘米风扇
电源 4x 2000W 冗余(2 + 2)钛级(96%)电源
系统 BIOS BIOS 类型:AMI 64MB SPI 闪存 EEPROM
电脑健康监控 CPU:监控 CPU 内核、芯片组电压、内存
风扇带转速监控的风扇
速度控制状态监控器
脉宽调制(PWM)风扇连接器
温度CPU 和机箱环境监测
---