NVIDIA Grace Hopper GH200 GSV-NGRSM-1U1G

NVIDIA GH200 Grace Hopper Superchip

NVIDIA GH200 Grace Hopper Superchip は、NVIDIA® NVLink®-C2C を使用して NVIDIA Grace™ および Hopper™ アーキテクチャを組み合わせ、AI および HPC アプリケーションを加速する CPU+GPU コヒーレント メモリ モデルを提供します。900 ギガバイト/秒 (GB/s) のコヒーレント インターフェイスを備えたこのスーパーチップは、PCIe Gen5 よりも 7 倍高速です。また、HBM3 および HBM3e GPU メモリにより、アクセラレーテッド コンピューティングと生成 AI をさらに強化します。GH200 は、NVIDIA AI Enterprise、HPC SDK、Omniverse™ を含む、すべての NVIDIA ソフトウェア スタックおよびプラットフォームを実行します。
多用途なコンピューティング・プラットフォーム
NVIDIA Grace Hopper™ アーキテクチャは、NVIDIA Hopper™ GPUの画期的な性能とNVIDIA Grace™ CPUの多用途性を単一のスーパーチップに統合したものです。CPUを単一のスーパーチップに統合し、高帯域幅でメモリコヒーレントなNVIDIA® NVLink® Chip-2-Chip (C2C) インターコネクトで接続されています。

NVIDIA NVLink-C2Cは、メモリコヒーレント、高帯域幅、低レイテンシのスーパーチップ用インターコネクトです。
GH200 Grace Hopper Superchipの心臓部であるNVLink-C2Cは、最大900ギガバイト/秒(GB/s)の総帯域幅を提供します。これは、アクセラレーション・システムで一般的に使用されるPCIe Gen5レーンの7倍です。
NVLink-C2Cにより、アプリケーションはGPUのメモリをオーバーサブスクライブし、Grace CPUのメモリを高帯域幅で直接利用することができます。
GH200 Grace Hopper Superchipあたり最大480GBのLPDDR5X CPUメモリにより、GPUは、構成されるGH200メモリに応じて、HMB3よりも7倍、HBM3eよりもほぼ8倍高速なメモリに直接アクセスできます。
GH200は、推論、データ分析、その他の計算およびメモリ集約型のワークロードを実行するために、標準的なサーバーに簡単に導入することができます。
GH200は、NVIDIA NVLinkスイッチ・システムと組み合わせることもでき、すべてのGPUスレッドが最大256個のNVLink接続GPU上で実行され、高帯域幅で最大144テラバイト(TB)のメモリにアクセスすることができます。
NVIDIA MGX プラットフォーム
NVIDIAにデザインされた MGX プラットフォームは、AI用途のサーバー特有の熱、電力、機械的な課題や将来のAIテクノロジーに対応できるように設計されています。NVIDIA GH200 Grace Hopper Superchipが搭載されたNVIDIA MGXシステムは、NVIDIA H100 GPUと NVIDIA Grace CPUを搭載しています。それぞれのCPU用に480GB LPDDR5Xメモリー、および、GPU用に96GB HBM3メモリーを搭載しています。CPU、GPU、メモリーは、メモリーコヒーレント、高帯域幅、低レイテンシを実現するNVIDIA® NVLink® Chip-2-Chip (C2C) で接続され、PCIe 5.0の7倍の速さの900GB/秒で相互接続します。モジュラー型アーキテクチャは、複数のPCIe 5.0 x16 FHFLスロットを備え、クラウドやデータ管理用のDPUに対応し、追加のGPU、ネットワーク、ストレージの拡張性も備えています。
主な仕様 と性能
GSV-NGRSM-1U1G

項目 | 仕 様 | ||||
プロセッサー | |||||
Processor Family |
NVIDIA GH200 Grace™ Hopper™ Superchip
|
||||
プロセッサータイプ |
NVIDIA Grace™
|
||||
72 Arm® Neoverse V2 cores | |||||
最大 TDP サポート |
1000W
|
||||
プロセッサー数 |
1 Processor
|
||||
内部インターコネクト |
NVIDIA® NVLink®-C2C 900GB/s
|
||||
フォームファクター | |||||
フォームファクター |
1U ラックマウント
|
||||
寸法 | |||||
W x H x D (mm) |
440 mm x 44 mm x 940mm
|
||||
ストレージ | |||||
ストレージ |
(8) E1.S NVMe SSD
|
||||
メモリー | |||||
容量 |
Up to 480GB LPDDRX embedded
|
||||
96GB HBM3 GPU memory
|
|||||
拡張スロット | |||||
拡張スロット |
(2) PCIe 5.0 x16 FHFL Dual Width slots
|
||||
I/O | |||||
LAN | (1) RJ45 1 GbE Dedicated IPMI LAN port(s) | ||||
USB | (1) USB 3.0 port(s) (Rear) | ||||
Video | (1) mini-DP port(s) | ||||
電源 | |||||
電源 |
1+1 High efficiency hot-plug 2000W PSU, 80 Plus Titanium
|
||||
オンボード ストレージ | |||||
オンボードストレージ |
(2) 22110/2280 PCIe M.2
|
||||
動作環境 | |||||
動作環境 |
|
OS 及び設定環境は別途、弊社営業までにお問い合わせください。
- NVIDIA Grace
- 1CPU
- Hopper
- 1GPU
- IPMI