Blackwell Ultra プラットフォーム搭載パーソナル AI コンピューター NVIDIA DGX™ Spark


複雑で大規模なモデルをローカルでプロトタイピング、チューニング、推論するには、大容量のメモリと大きな計算性能が必要になります。
AIの時代のためにゼロから設計された新しいクラスのコンピューター
NVIDIA DGX Sparkは従来クラウドやデータセンターのリソースが必要だった大規模な AI ワークロードに取り組んでいる AI 開発者、研究者、データ サイエンティスト、学生向けに設計されています。デスクトップシステムでありながら、1,000 TOPSのAIパフォーマンス(FP4精度)と128GBのコヒーレント統合システムメモリを提供し、開発者がデスクで最大2,000億のパラメータ、128GBのunifiedシステムメモリによりAIモデルの開発、推論を可能にします。
さらに、NVIDIA ConnectX™ ネットワーキングにより、2台のNVIDIA DGX Sparkスーパーコンピュータを接続し、最大405Bパラメータのモデルの推論を可能にします。非常に小さなフォーム ファクター(重量わずか1.2キロ、 L150mm x W150 mm x H50.5 mm )で既存のラップトップやデスクトップシステムでは実行できないAIモデルやワークロードに対応します。
DGX Spark – System Connections
DGX SparkのリアパネルはすべてのI/Oポートが配置されており左側には電源ボタンがあります。電源ボタンの隣には4つのUSB-Cポートがあります。1つのポートはDGX Sparkに電力を供給するために使用され、残りの3つはユーザーのために空いています。
パネルの中央近くにはHDMI 2.1aポートがあり、ディスプレイをDGX Sparkに直接接続できます。HDMI 2.1aは、最大8Kディスプレイを120Hz HDRまでサポートし、ネットワーク接続はパネルの右側にあります。中央近くにはRJ-45イーサネット接続があり、最大10Gbps(ギガビット毎秒)の速度で通信できるイーサネット(LAN)規格です。
左側にはConnectX-7 200Gbps QSFP接続があります。Quad Small Form-factor Pluggable(QSFP)接続は、高速データレートをサポートします。
ユーザーは、2つのDGX Sparkを接続して、最大405BパラメータのAIモデルに対応できる個人クラスターを作成するためにQSFPケーブルが必要です。また、2つのDGX Sparkシステムを接続するには1つのポートのみが必要となります。

スケーラブルソリューション
DGX Sparkは、産業用向けにAI製品やサービスを生産するためのシステムやプロセスを稼働する際、システムの設計と開発における基盤となるソフトウェアアーキテクチャを搭載しています。Ubuntu Linuxを搭載したNVIDIA DGX OSを使用し、最新のNVIDIA AIソフトウェアスタックで事前構成され、NVIDIA NIM™ とNVIDIAブループリントへの開発者プログラムアクセスとともに、開発者はPytorch、Jupyter、Ollamaなどの一般的なツールを使用して、DGX Spark上でプロトタイプ作成、微調整、推論を行い、データセンターやクラウドにシームレスに展開することができます。DGX Sparkは、開発者、研究者、データサイエンティスト、および学生が、コンパクトなパッケージで大規模な生成AIパフォーマンスを発揮することを可能にします。

DGX Sparkとその他のAIシステム環境の比較
AI開発のためのシステム環境を検討する際、ハイエンドのワークステーションGPUのうちの2つがメモリとして稼働しますが、開発者がラップトップやデスクトップシステムを追加しようとする場合、コストが高くなります。データセンターやクラウドは、膨大なコンピューティング容量とメモリ容量を必要とするため、AI開発者はデータセンターのリソースや、クラウドインスタンスの予算を確保したりする必要があります。
その点、DGX Spark は、デスクトップ デバイス上でより大きな AI モデルやワークロードで作業する必要がある AI 開発者に最適です。

DGX Sparkの利点
DGX Spark は、大規模なモデルで最大 200B のパラメーターの AI ワークロードをローカルで実行できます。また、NVIDIA AI ソフトウェア スタックは、AI を構築および実行でき、データはローカルに保持されるため、外部の場所にデータを転送する必要がありません。AIクラウド - データセンターのコンピューティングやクラウドインスタンスの費用は必要なく、大規模AIモデルの構築の際は2つのDGX Sparkを接続して作業ができます。
NVIDIA AIソフトウェアスタックにより開発者がAIを構築・実行するために必要なすべてのツールを提供され、追加のコンピューティングやデプロイのために、作業をクラウドやデータセンターに簡単に移行することもできます。
NVIDIA DGX™ Spark 製品仕様
Architecture | NVIDIA Grace Blackwell |
GPU | Blackwell Architecture |
CPU | 20 core Arm,10 Cortex-X925 + 10 Cortex-A725 |
CUDA Cores | Blackwell Generation |
Tensor Cores | 5th Generation |
RT Cores | 4th Generation |
Tensor Performance | 1,000 AI TOPS |
System Memory | 128GB LPDDR5x, unified system memory |
Memory Interface | 256-bit |
Memory Bandwidth | 273 GB/s |
OS | DGX OS |
Storage | 1 or 4 TB NVME.M2 with self-encryption |
USB | 4x USB Type C |
Ethernet | 10 GbE |
1x RJ-45 connector | |
NIC | ConnectX-7 Smart NIC |
Wi-Fi | Wi-Fi 7 |
Bluetooth | BT 5.3 |
Audio output | HDMI multichannel audio output |
Power Consumption | TBD |
Display Connectors | 1x HDMI 2.1a |
NVENC | NVDEC | 1x | 1x |
System Dimensions | 150 mm L x 150 mm W x 50.5 mm H |
System Weight | 1.2kg |
- NVIDIA NVLink™-C2C
- NVIDIA Grace
- Blackwell
- 20Core
- DDR5
- non-ECC