NVIDIA B200 搭載 NVIDIA DGX B200
NVIDIA B200 GPUを搭載した第6世代のNVIDIA DGXプラットフォーム
NVIDIA DGX™ B200は、NVIDIA B200 TensorコアGPUを搭載した第6世代のNVIDIA DGXシステムです。第5世代NVIDIA NVLinkで相互接続された8基のNVIDIA B200 GPUを搭載し、前世代と比較してトレーニング性能で3倍、推論性能で15倍を提供します。自社でAI基盤を立ち上げる際には、サーバー、ネットワーク、ストレージ、ソフトウェアの組み合わせ検証に長い時間を要します。DGX B200はNVIDIAが検証済みの構成として提供されるため、この設計・検証工程を大幅に短縮できます。NVIDIA Blackwell GPUアーキテクチャを採用する本システムは、NVIDIA DGX BasePODおよびNVIDIA DGX SuperPODの構成単位でもあり、1台から始めて段階的にクラスターへ拡張できます。大規模言語モデル、レコメンダーシステム、チャットボットなど多様なワークロードを1つの基盤で処理でき、全社的なAI活用を進める組織に適しています。NVIDIAエリートパートナーである当社は、設置環境の事前確認から構成設計、導入、運用支援までを一貫してご提供します。
NVIDIA DGX B200の導入事例
検証済みのAIインフラストラクチャとソフトウェアスタック
NVIDIA DGX B200は、ハードウェアとソフトウェアを一体で最適化したプラットフォームです。NVIDIA Base CommandおよびNVIDIA AI Enterpriseを含むNVIDIA AIソフトウェアスタックを備え、サードパーティ製ソフトウェアのエコシステムにも幅広く対応します。さらに、NVIDIAプロフェッショナルサービスチームによる支援も利用でき、インストールと展開、研修、ワークロードの最適化までを通じて、コストの削減と本番稼働までの期間短縮を図れます。NVIDIAエンタープライズサービスを活用すれば、AI導入のどの段階でもNVIDIAの技術者による支援を受けられます。
あらゆる組織へスーパーコンピューティングを提供
NVIDIA DGX B200は、NVIDIA DGX BasePODおよびNVIDIA DGX SuperPODといった、AIデータセンターのインフラストラクチャプラットフォームを構成できます。
NVIDIA DGX BasePODは、あらゆる業界の重要な業務で組織がAIを活用するためのAIインフラストラクチャを構築・拡張するリファレンスアーキテクチャを提供します。NVIDIA DGX SuperPODは、要求の厳しいAIおよびハイパフォーマンスコンピューティング（HPC）ワークロードに対して、アクセラレーテッドインフラストラクチャとスケーラブルなパフォーマンスを提供します。
NVIDIA DGX B200の構成
- NVIDIA B200 GPU 8基（GPUメモリー合計1440GB／前世代比2.25倍）
第5世代NVIDIA NVLinkを採用し、GPU間の双方向帯域幅は1800GB/秒（前世代比2倍）。FP8トレーニング性能72ペタFLOPS、FP4推論性能144ペタFLOPSを実現します。 - NVIDIA ConnectX-7 VPI
OSFPポート4基により、シングルポートのNVIDIA ConnectX-7 VPI 8基分の接続を提供。InfiniBandまたはEthernetで最大400Gb/sに対応します。 - NVIDIA BlueField-3 DPU 2基（デュアルポートQSFP112）
InfiniBandまたはEthernetで最大400Gb/sに対応します。 - Intel Xeon Platinum 8570 2基＋システムメモリー4TB
112コア、最大動作クロック4GHzのCPUと大容量のシステムメモリーにより、前処理・後処理を含むワークロードにも対応します。 - U.2 NVMe SSD 30TB
GPUへのデータ供給を止めない高速な内部ストレージを備えています。
NVIDIA DGX B200 開封の儀
NVIDIA DGX B200の内部構造まで解説した動画です。
NVIDIA DGX B200 仕様
| GPU | NVIDIA B200 TensorコアGPU 8基 |
| GPUメモリー | 合計1440GB |
| AI性能 | 72ペタFLOPS（FP8） |
| NVIDIA NVSwitch数 | 2 |
| CPU | Intel Xeon Platinum 8570 2基 |
| メモリー | 2TB〜4TB |
| ネットワーク | OSFPポート4基（シングルポートのNVIDIA ConnectX-7 VPI 8基分） InfiniBandまたはEthernet 最大400Gb/s デュアルポートQSFP112 NVIDIA BlueField-3 DPU 2基 InfiniBandまたはEthernet 最大400Gb/s オンボードNIC 10Gb/s（RJ45） デュアルポートEthernet NIC 100Gb/s BMC（ベースボード管理コントローラー、RJ45） |
| ストレージ | OS用：1.92TB M.2 NVMe SSD 2基 内部ストレージ：30TB（3.84TB×8基）U.2 NVMe SSD |
| 電源 | 3300W 5+1 冗長構成 |
| システム消費電力 | 14.3kW（暫定値） |
| サイズ | 高さ444mm×幅482.2mm×奥行897.1mm（10U） |
| ソフトウェア | DGX OS／Ubuntu：オペレーティングシステム NVIDIA AI Enterprise：最適化されたAIソフトウェア（オプション） NVIDIA Base Command：オーケストレーション、スケジューリング、クラスター管理（オプション） |
| 動作温度範囲 | 5〜30℃ |
※仕様は予告なく変更されることがあります。
※詳細はNVIDIA DGX B200 データシート（NVIDIA公式サイト・英語）をご覧ください。
導入のご相談は株式会社ジーデップ・アドバンスまで
当社はDGXに関する豊富な実績が評価され、NVIDIAのベストパートナーとして表彰を受けています。また、DGXのソフトウェアスタックに標準採用されるNVIDIA Base Commandについても、そのポートフォリオのベースとなっているBright Cluster Managerの代理店として、国内トップクラスの知見を有しています。NVIDIA DGX B200の導入をスムーズに進めていただくために、ぜひ当社にご相談ください。
