NVIDIA B300 搭載 NVIDIA DGX B300
NVIDIA Blackwell Ultra GPU搭載「NVIDIA DGX B300」
NVIDIA DGX™ B300は、NVIDIA Blackwell Ultra GPUを搭載した、大規模AI基盤向けのNVIDIA DGXシステムです。前モデルのNVIDIA DGX B200と比較して、高密度FP4パフォーマンスが1.5倍、アテンションパフォーマンスが2倍に向上しており、推論を中心とした生成AIワークロードの処理効率を高めます。推論需要の拡大に伴い、学習用に構築した基盤のままではコストと消費電力が見合わなくなるケースが増えています。DGX B300はFP4を軸とした低精度演算の性能を高めることで、同一の消費電力枠でより多くの推論処理を実行できます。NVIDIA MGXや従来のエンタープライズラック、フルスタックのNVIDIAソフトウェアとの互換性を備えており、既存のデータセンター設備にシームレスに統合可能です。これによりAI基盤の導入と拡張を簡素化し、大規模データセンターやクラウドインフラの運用負荷を抑えます。NVIDIAエリートパートナーである当社は、電源・冷却を含む設置要件の確認から構成設計、導入、運用支援までを一貫してご提供します。
大規模なAIコンピューティングワークロード向けの設計とNVIDIA ConnectX-8の搭載
DGX B300は、NVIDIA Blackwell Ultra GPUとNVIDIA ConnectX-8ネットワーキングを統合したシステムです。最適化されたNVIDIA Mission Controlソフトウェアを備え、前世代と比較して11倍の推論パフォーマンスと4倍のトレーニングパフォーマンスを実現します。これにより、AI推論の時代において、幅広いユーザーが新たな可能性を切り開けるようになります。
※ConnectX-8 SuperNICは、大規模なAIコンピューティングのワークロードに合わせて最適化されています。InfiniBandと最大800Gb/秒のEthernetの両方をサポートし、高速で効率的なネットワーク接続を実現します。
データセンター向けに最適化された設計
DGX B300は、AIインフラストラクチャを大規模に構築し、ソフトウェアやアプリケーションを開発環境から本番環境へ移行して実運用に乗せるための、柔軟な基盤として設計されています。
- 互換性と拡張性
NVIDIA MGX準拠のラックに収まるように設計され、互換性と拡張性を確保しています。 - 空冷設計
既存のデータセンターインフラストラクチャとの統合を容易にする空冷設計を採用しています。 - 柔軟な電力アーキテクチャ
バスバーと電源ユニットのオプションから、設置環境に応じて最適な構成をお選びいただけます。 - 高速化されたコンピューティングインフラ
AIインフラを大規模に構築・デプロイするための柔軟な基盤を提供します。 - 将来を見据えた設計
最先端の設計と実用的な保守性を組み合わせ、適応性と効率性を確保しています。
NVIDIA DGXソフトウェアスタック
- NVIDIA Mission Control：AIファクトリーの運用を効率化し、耐障害性を高めるためのツールです。
- NVIDIA AI Enterprise：AIの開発とデプロイを迅速かつ安全に行うためのソフトウェアスイートです。
- NVIDIA NIMマイクロサービス：最適なモデルのデプロイを行い、速度、使いやすさ、管理性、セキュリティを提供します。
これらのツールを活用することで、AIファクトリーの運用と開発をより円滑かつ効率的に進められます。
新設計のDGXシャーシ
DGX B300を単一ノードで正面から見ると、これまでのNVIDIA DGXプラットフォームの特徴だったベゼルが、システムの前面全体を覆わない設計に変わっています。これにより、必要なネットワークケーブルをノードからノードへ直接配線できるようになりました。システムの下部はストレージドライブを識別しやすい配置とし、ローカルデータキャッシュ、mini DisplayPortやUSBを含むI/Oポート（保守時にアクセスしやすい位置）、およびブートドライブを備えています。
NVIDIA Blackwell Ultra GPUトレイ
ベゼルを取り外したGPUトレイには、800Gb/秒のNVIDIA ConnectX-8 OSFPネットワークポートが8基搭載されており、従来モデルとは異なる重要なアーキテクチャの変更が施されています。以前はこれらのポートがマザーボードトレイに配置されていましたが、この変更により、DGXシステムの8基のNVIDIA Blackwell Ultra GPUからコンピュートネットワークへ利用できる帯域幅が増加し、DGXクラスター内の全システム間でのRDMA（リモートダイレクトメモリーアクセス）が高速化されます。
新たな電源オプション
GPUコンピューティング、ネットワーキング、ケーブリングの改善に加えて、DGX B300への給電方法として、統合型電源ユニット（PSU）または外部バスバーのいずれかを選択できます。
従来のAC電源分配ユニットを備えたラック
システムを計画する際にまず決めるべき点の1つは、システムをAC電源とDC電源のどちらに接続するかです。ラックにAC電源が供給されている従来のデータセンターに導入する場合は、各システム内で200-240V ACをDCに変換できる統合型PSUを備えた構成をご検討ください。
高密度ラック（DCバスバー・パワーシェルフ対応）
より高い集積度をお求めで、ラックに400-480V ACを供給できる場合は、パワーシェルフとバスバーを統合した新設計ラックが適しています。NVIDIA MGX準拠の新型ラックは、DC給電システム用バスバーの組み込みなど、構成の柔軟性を実現します。複数システムの重量に耐える設計で、パワーシェルフを通じて各DGX B300に54VのDC電力を供給できます。この構成では、ラック内の全システムのAC-DC変換を一括で処理できるため、システム内に個別の電源ユニットが不要になります。
DGX B300の電源接続
DGX B300では、各システムをラック内の電源分配ユニットに接続するために、12本の電源コードが必要です。これにより完全な冗長電源接続が実現し、電源障害が発生してもシステムを継続稼働できるようになるため、システムの信頼性が大きく向上します。12本の電源コードを使用することで、データセンターやAI運用環境において、停電や電源トラブルによるダウンタイムを最小限に抑えられます。
DGXシステムを最適化された状態で動作させるためには、6基の電源ユニットが必要です。これらの電源ユニットは、12本の電源コードを介して3系統の独立した電力供給経路を構成するため、互いに影響を受けません。冗長性を備えており、1つの系統が故障しても、ほかの系統が電力供給を継続します。また各系統に負荷を分散させることで、系統ごとの負荷を軽減し、システム全体の効率を高めます。
NVIDIA DGX B300 テクニカルブリーフ（NVIDIA公式サイト・英語）もあわせてご覧ください。
システムパフォーマンス
- 最新のNVIDIA Blackwell Ultra GPUを8基搭載
- 144ペタFLOPSの推論パフォーマンス
- トレーニングで72ペタFLOPSを実現
- 合計2.1TBの大容量GPUメモリー
- NVIDIA NVLink Switchシステムを2基搭載
- NVIDIA ConnectX-8により、InfiniBandまたはEthernetで最大800Gb/秒の高速通信
- ConnectX-8をGPUと直結し、GPUトレイに搭載（従来はCPUトレイ）
- デュアルポートQSFP112 NVIDIA BlueField-3 DPUを2基搭載（400Gb/秒）
- 内部ストレージに3.84TB NVMe E1.Sを8基採用
- DC電源版あり（54V DC）
NVSwitchの各世代の仕様
| カテゴリー | 第1世代 | 第2世代 | 第3世代 | NVLink Switch |
| 1 NVLinkドメイン内の直接接続GPU数 | 最大8 | 最大8 | 最大8 | 最大576 |
| NVSwitch GPU間帯域幅 | 300GB/秒 | 600GB/秒 | 900GB/秒 | 1,800GB/秒 |
| 合計帯域幅 | 2.4TB/秒 | 4.8TB/秒 | 7.2TB/秒 | 1PB/秒 |
| サポートされているアーキテクチャ | NVIDIA Volta | NVIDIA Ampere | NVIDIA Hopper | NVIDIA Blackwell |
NVIDIA DGX B300 パフォーマンス比較
| 製品仕様 | H200 | B200 | B300 |
| 最大メモリー | 141GB HBM3e | 192GB HBM3e | 288GB HBM3e |
| メモリー帯域幅 | 4.8TB/秒 | 8TB/秒 | 8TB/秒 |
| FP4 Tensorコア | － | 144PFLOPS | 144PFLOPS |
| FP6 Tensorコア | － | 72PFLOPS | 72PFLOPS |
| FP8 Tensorコア | 32PFLOPS | 72POPS | 2POPS |
| INT8 Tensorコア | 32POPS | 72POPS | 2POPS |
| FP16/BF16 Tensorコア | 16PFLOPS | 36PFLOPS | 36PFLOPS |
| TF32 Tensorコア | 8PFLOPS | 296TFLOPS | 10TFLOPS |
| FP32（高密度） | 540TFLOPS | 600TFLOPS | 600TFLOPS |
| FP64 Tensorコア（高密度） | 270TFLOPS | 296TFLOPS | 10TFLOPS |
| 最大消費電力 | 700W | 1000W | 1400W |
NVIDIA DGX B300 仕様
| GPU | NVIDIA Blackwell Ultra SXM 8基 |
| CPU | Intel Xeon 6776P プロセッサー 2基 |
| GPUメモリー（合計） | 2.1TB |
| パフォーマンス | FP4 Tensorコア：144PFLOPS／108PFLOPS（※1） |
| FP8 Tensorコア：72PFLOPS（※2） | |
| NVIDIA NVLink Switchシステム | 2基 |
| NVIDIA NVLink帯域幅 | 総帯域幅14.4TB/秒 |
| ネットワーク | OSFPポート8基（シングルポートのNVIDIA ConnectX-8 VPI 8基分） |
| InfiniBandまたはEthernet 最大800Gb/秒 | |
| デュアルポートQSFP112 NVIDIA BlueField-3 DPU 2基 | |
| InfiniBandまたはEthernet 最大400Gb/秒 | |
| 管理ネットワーク | オンボードNIC 1GbE（RJ45） |
| ホストBMC（ベースボード管理コントローラー）1GbE（RJ45） | |
| ストレージ | OS用：1.9TB NVMe M.2 2基 |
| 内部ストレージ：3.84TB NVMe E1.S 8基 | |
| 消費電力 | 最大約14kW |
| ソフトウェア | NVIDIA AI Enterprise：最適化されたAIソフトウェア |
| NVIDIA Mission Control：NVIDIA Run:ai テクノロジーによるAIデータセンターの運用とオーケストレーション | |
| NVIDIA DGX OS：オペレーティングシステム | |
| Red Hat Enterprise Linux／Rocky／Ubuntuをサポート | |
| ラックユニット | 10U |
| サポート | ハードウェアおよびソフトウェアのビジネス標準3年間サポート |
※1・※2 疎性（Sparsity）の利用有無による値です。詳細はNVIDIAのデータシートをご確認ください。
※仕様は予告なく変更されることがあります。
※詳細はNVIDIA DGX データシート（NVIDIA公式サイト）をご覧ください。
導入のご相談は株式会社ジーデップ・アドバンスまで
当社はDGXに関する豊富な実績が評価され、9年連続でNVIDIAのベストパートナーとして表彰を受けています。NVIDIA DGX B300の導入をスムーズに進めていただくために、ぜひ当社にご相談ください。
