NVSwitch™テクノロジ 16GPU アプライアンスAIサーバー NVIDIA® DGX-2™

NVIDIA® DGX-2™は、NVSwitchで16基のTesla™V100を相互接続し演算性能2PFLOPSを実現します。

更に、GPU間の相互接続には、NVLinkを拡張した革新的なテクノロジーNVSwitchが実装され、16基のGPUが同時に2.4TB/sの超高速相互接続されることにより、2ペタFLOPSの演算性能を実現。 また、ディープラーニングとHPCソフトウェアスタックのアップデートが含まれており、NVIDIA CUDA®、TensorRT、NCCL、cuDNNの新バージョンと、ロボット向けの新しいIsaacソフトウェア開発キットもあります。有力なクラウドサービスプロバイダとのコラボレーションを通して、主要なディープラーニング用フレームワークは、NVIDIAのGPUコンピューティングプラットフォームを最大限に活用できるように絶えず最適化されています。
　

NVSwitch：革新的な相互接続ファブリック

　
NVSwitchは最高のPCIeスイッチよりも5倍高い帯域幅を提供し、開発者はより多くのGPUが相互にハイパーコネクトされたシステムを構築できます。これは、開発者が以前のシステムの限界を突破し、より大きなデータセットを実行するのに役立ちます。また、ニューラルネットワークの並列訓練をモデル化するなど、より大きくより複雑な作業負荷の扉を開いています。NVSwitchは、NVIDIAによって開発された最初の高速相互接続技術であるNVIDIA NVLink を拡張しています。NVSwitchを使用すると、システム設計者はNVLinkベースのGPUのトポロジに柔軟に接続できるさらに高度なシステムを構築できます。NVIDIA DGX-2 では、16基のGPUが、同時に2.4TB/sの超高速相互接続されることにより、2 ペタFLOPSの演算性能を実現しています。 
　

　

TESLA V100のGPUが2倍に

世界でも有数の研究者が広く採用しているTesla V100 GPUは、メモリを最も消費するディープラーニングと高性能コンピューティングワークロードを処理するためにメモリが2倍の32GB（1枚あたり）となりました。32GBのメモリを搭載したTesla V100 GPUは、これまで以上に正確なより深いディープラーニングモデルを学習するのに役立ちます。

先進的なGPUにオプティマイズされたソフトウェアスタック

NVIDIAのディープラーニングとHPCソフトウェアスタックのアップデートがあります。今回のアップデートには、NVIDIA CUDA®、TensorRT、NCCL、cuDNNの新バージョンと、ロボット向けの新しいIsaacソフトウェア開発キットがあります。さらに、有力なクラウドサービスプロバイダとの緊密なコラボレーションを通して、あらゆる主要なディープラーニング用フレームワークは、NVIDIAのGPUコンピューティングプラットフォームを最大限に活用するように絶えず最適化されています。

　

世界初の2ペタFLOPSの性能を持つAIアプライアンスサーバー

VIDIA DGX-2システムは、NVIDIAが開発した幅広い技術進歩から、2ペタFLOPSの性能を達成しました。DGX-2は、NVSwitchを搭載する最初のシステムで、システム内のすべての16個のGPUが統一されたメモリ空間を共有できるようにします。
DGX-2は、完全に最適化されアップデートされたNVIDIAディープラーニングソフトウェアと組み合わされ、ディープラーニングの研究とコンピューティングの限界を押し進めるデータサイエンスのために特別に設計されています。
DGX-2は、昨年9月から販売している「NVIDIA DGX-1 with Tesla V100」に比べて、飛躍的に性能が向上しました。これにより、FAIRseq（Facebook Artificial Intelligence Research Seq）を利用したディープラーニングに要する時間は、DGX-1で20日間かかっていた時間が10倍高速化され、2日以下になります。 
　

DGX-2の仕様

DGX-2は最新のXeon Platinum CPUを2基と1.5TBのシステムメモリを備える大型サーバーであり、複数の利用者が各自の環境を柔軟に作り出せるプライベートクラウドの基盤にも最適です。 またKVMによる仮想化にも対応し、VMからGPU及びNVSwitchへ完全にアクセス可能です。