NVIDIA B300 搭載 NVIDIA DGX B300
Blackwellアーキテクチャ搭載「NVIDIA B300」
NVIDIA Blackwell Ultra GPUを搭載したDGX B300は、前モデルのDGX B200と比較して高密度FP4パフォーマンスが1.5倍、アテンションパフォーマンスが2倍向上。NVIDIA MGX™や従来のエンタープライズラック、フルスタックソフトウェアとの互換性を備え、最新のデータセンターにシームレスに統合できることでAI導入を簡素化・効率化し、大規模なデータセンターやクラウドインフラの運用を支援します。
大規模なAIコンピューティングワークロード向けに設計されたNVIDIAConnectX-8搭載
DGX B300は、NVIDIA Blackwell Ultra GPUとNVIDIA ConnectX-8ネットワーキングを搭載した世界初の完全統合システムです。
最適化されたNVIDIA Mission Controlソフトウェアを備えており、前世代と比較して11倍の推論パフォーマンスと4倍のトレーニングパフォーマンスを実現します。
これにより、AI推論の時代において、様々なユーザーが新たな可能性を切り開くことが可能となります。
※ ConnectX-8 SuperNIC は、大規模なAIコンピューティングのワークロードを強化するように最適化されています。 InfiniBand と最大 800 ギガビット/秒 (Gb/s) のイーサネットの両方をサポートし、高速で効率的なネットワーク接続を実現。
データセンター向けに最適化された設計
DGX B300は、AIインフラストラクチャを大規模に構築やソフトウェアやアプリケーションを開発環境から本番環境に移行し、実際に利用可能な状態にするために柔軟な基盤で設計されています。
互換性と拡張性:
NVIDIA MGX-compliant ラックに収まるように設計され、互換性と拡張性を保持
空冷設計:
既存のデータセンターインフラストラクチャとの統合を容易にする空冷設計を採用
柔軟な電力アーキテクチャ:
顧客はバスバーと電源ユニットのオプションから最適な選択が可能
高速化されたコンピューティングインフラ:
AIインフラを大規模に構築およびデプロイするための柔軟な基盤を提供
将来を見据えた設計:
最先端の設計と実用的な保守性を組み合わせ、適応性と効率性を確立
NVIDIA DGX ソフトウェアスタック
NVIDIA Mission Control:AIファクトリーの運用を効率化し、耐障害性を高めるためのツール
NVIDIA AI Enterprise:AIの開発とデプロイを迅速かつ安全に行うためのソフトウェアスイート
NVIDIA NIM™マイクロサービス:最適なモデルのデプロイを行い、スピード、使いやすさ、管理性、セキュリティを提供
これらのツールを活用することで、AIファクトリーの運用と開発がよりスムーズかつ効率的になります。
新設計のDGXシャーシ
DGX B300は、単一ノードを正面から見るとNVIDIA DGX プラットフォームの特徴となっているベゼルは以前とは対照的にシステムの前面全体をカバーしていません。
これにより、必要なネットワーク ケーブル配線をノードからノードに直接接続できるようになります。
システムの下部は、ストレージ ドライブを識別することを目的としています。ローカル データ キャッシュ、MiniDV、USB を含む IOポート (イベント時に簡単にアクセス)、およびブートドライブ。
NVIDIA Blackwell Ultra GPU Tray
ベゼルを取り外したGPUトレイには、8つの800Gbps NVIDIA ConnectX-8 OSFPネットワークポートが搭載されており、これまでのバージョンとは異なる重要なアーキテクチャの変更が施されています。
以前はこれらのポートはマザーボードトレイに配置されていましたが、この変更により、DGXシステムの8つのNVIDIA Blackwell Ultra GPUからコンピュートネットワークへの利用可能な帯域幅が増加し、DGXクラスター内のすべてのシステム間でのRDMA（リモートダイレクトメモリアクセス）が高速化されます。
新たな電源オプション
GPUコンピューティング、ネットワーキング、およびケーブリングの改善に加えて、統合型電源装置（PSU）または外部バスバーのいずれかを選択してDGX B300システムに電力を供給するオプションがあります。
従来のAC電源分配ユニットを備えたラック
これらのシステムを計画する際に、最初に決定すべき選択肢の1つは、システムをACもしくはDC電源に接続するかです。ラックにAC電源が供給されている従来のデータセンターに展開する場合、ユーザーは各システム内で200-240V ACをDCに変換できる統合型PSUを備えたシステムを検討する必要があります。
高密度ラック（DCバスバー・パワーシェルフ対応）
より高い演算精度をお求めで、ラックに400-480V ACが供給可能であれば、パワーシェルフとバスバーを統合した新設計ラックが最適な選択肢です。
NVIDIA MGX準拠の新型ラックは、DC給電システム用バスバーの組み込みなど、構成の柔軟性を実現。複数システムの重量に耐えうる設計で、パワーシェルフを通じて各DGX B300に54VのDC電力を供給可能です。
この新たなオプションでは、ラック内全システムのAC-DC変換を一括処理できるため、システム内に個別の電源ユニットが不要となります。
DGX B300の電源接続
DGX B300システムでは、各システムをラック内の電源配電ユニットに接続するために、12本の電源コードが必要です。これにより、電源障害が発生してもシステムが継続稼働できるようになり完全な冗長電源接続が実現し、システムの信頼性が大幅に向上します。また、12本の電源コードを使用することで、データセンターやAI運用環境において、停電や電源トラブルによるダウンタイムを最小限に抑えます。
DGXシステムが最適化された状態で動作するためには、6つの電源ユニットが必要です。これらの電源ユニットは、12本の電源コードを介して、3系統の独立した電力供給経路を持つため互いに影響を受けません。冗長性をもち、1つの系統が故障しても他の系統が電力供給を継続します。また、各系統に負荷を分散させることで、各系統の負荷を軽減し、システム全体の効率が向上します。
その他の詳細情報はこちらから
https://resources.nvidia.com/en-us-dgx-systems/dgx-b300-technical-brief?ncid=no-ncid
システムパフォーマンス
✓ 最新Blackwell Ultra GPU ８基搭載
✓ 144 petaFLOPS の推論パフォーマンス
✓ トレーニングで 72 petaFLOPS を実現
✓ 合計2.1TBの大容量GPUメモリ
✓ NVIDIA NVLink スイッチ システムが 2 倍
✓ 最大 800 Gb/秒 NVIDIA ConnectX-8 InfiniBand/Ethernetの高速通信
✓ ConnectX-8はGPUと直結してGPUトレイに搭載 （以前はCPUトレイ）
✓ 2x デュアルポート QSFP112 400 Gb/秒 NVIDIA BlueField-3 DPU
✓ 内部ストレージ: 8x 3.84 TB NVMe E1.Sを採用
✓ DC versionあり（54VDC）
✓ 144 petaFLOPS の推論パフォーマンス
✓ トレーニングで 72 petaFLOPS を実現
✓ 合計2.1TBの大容量GPUメモリ
✓ NVIDIA NVLink スイッチ システムが 2 倍
✓ 最大 800 Gb/秒 NVIDIA ConnectX-8 InfiniBand/Ethernetの高速通信
✓ ConnectX-8はGPUと直結してGPUトレイに搭載 （以前はCPUトレイ）
✓ 2x デュアルポート QSFP112 400 Gb/秒 NVIDIA BlueField-3 DPU
✓ 内部ストレージ: 8x 3.84 TB NVMe E1.Sを採用
✓ DC versionあり（54VDC）
NVSwitch の各世代の仕様
| カテゴリー | 第1世代 | 第2世代 | 第3世代 | NVLink Switch |
|
1 NVLink ドメイン内の
直接接続GPU数 |
最大8 | 最大8 | 最大8 | 最大576 |
|
NVSwitch GPU間帯域幅
|
300GB/秒 | 600GB/秒 | 900GB/秒 | 1,800GB/秒 |
|
合計帯域幅
|
2.4TB/秒 | 4.8TB/秒 | 7.2TB/秒 | 1 PB/秒 |
|
サポートされている
アーキテクチャ |
NVIDIA Volta™ | NVIDIA Ampere™ | NVIDIA Hopper™ | NVIDIA Blackwell™ |
NVIDIA DGX B300 パフォーマンス比較
| 製品仕様 | H200 | B200 | B300 |
| 最大メモリ | 141 GB HBM3e | 192 GB HBM3e | 288 GB HBM3e |
| メモリ帯域幅 | 4.8TB /秒 | 8TB /秒 | 8TB /秒 |
| FP4テンソルコア | – | 144 FPLOPS | 144 FPLOPS |
| FP6テンソルコア | – | 72 FPLOPS | 72 FPLOPS* |
| FP8テンソルコア | 32 PFLOPS | 72 POPS | 2 POPS |
| INT 8 テンソルコア | 32 POPS | 72 POPS | 2 POPS |
| FP16/BF16 テンソルコア | 16 PFLOPS | 36 PFLOPS | 36 PFLOPS |
| TF32 テンソル コア | 8 PFLOPS | 296 TFLOPS | 10 TFLOPS |
| FP32 （高密度） | 540 TFLOPS | 600 TFLOPS | 600 TFLOPS |
| FP64 テンソル コア （高密度） | 270 TFLOPS | 296 TFLOPS | 10 TFLOP |
| 最大電力消費量 | 700W | 1000W | 1400W |
NVIDIA DGX B300 仕様
| GPU | 8x NVIDIA Blackwell Ultra SXM |
| CPU | Intel® Xeon® 6776P プロセッサ |
| 合計 GPU メモリ | 2.1 TB |
| パフォーマンス | FP4 Tensor コア: 144 PFLOPS | 108 PFLOPS* |
| FP8 Tensor コア: 72 PFLOPS** | |
| NVIDIA NVLink™ Switch システム | 2 倍 |
| NVIDIA NVLink 帯域幅 | 14.4 TB/秒の総帯域幅 |
| ネットワーク | 8x OSFP のポートで 8x シングルポートを提供する NVIDIA® ConnectX®-8 VPI |
| 最大 800 Gb/秒 NVIDIA InfiniBand/Ethernet | |
| 2x デュアルポート QSFP112 NVIDIA BlueField-3 DPU | |
| 最大 400 Gb/秒 NVIDIA InfiniBand/Ethernet | |
| 管理ネットワーク | RJ45 搭載 1GbE オンボード NIC |
| 1GbE RJ45 ホスト ベースボード管理コントローラー (BMC) | |
| ストレージ | OS: 2x 1.9 TB NVMe M.2 |
| 内部ストレージ: 8x 3.84 TB NVMe E1.S | |
| 消費電力 | ~14 kW |
| ソフトウェア | NVIDIA AI Enterprise - 最適化された AI ソフトウェア |
| NVIDIA Mission Control - NVIDIA Run : AI テクノロジによる AI データ センターの運用とオーケストレーション |
|
| NVIDIA DGX OS - オペレーティング システム | |
| Red Hat Enterprise Linux/Rocky/Ubuntuをサポート | |
| ラック ユニット | 10U |
| サポート | ビジネス標準のハードウェアおよびソフトウェアの 3 年間のサポート |
※仕様は予告なしに変更されることがあります。
※データシートはこちらから入手可能です。
導入のご相談はDGX国内累計販売実績No.1の株式会社ジーデップ・アドバンスまで
ジーデップ・アドバンスはDGXに対する豊富な実績から、9年連続NVIDIAのベストパートナーを受賞しております。
DGX B300という最新で最強のツールをスムーズに導入して頂くために是非私達にお手伝いをさせて下さい。
