アプライアンス

NVIDIA「DGX A100」の概要

• ■ 科学技術計算、クラウドグラフィックス、データ分析用に構築された、最新Ampere世代 NVIDIA A100 GPUを搭載。A100 GPUは540億を超えるトランジスタを7nm製造プロセスで実装。TensorFloat32 に対応しさらにSparseデータに最適化された新たな第3世代 TensorCore と容量40GBで1.6TB/s もの高帯域なHBM2メモリを備え、PetaOPS級の理論性能を誇ります。
• ■ NVIDIA A100 GPUによりDeep Learningの劇的な加速が期待されます。さらに、Multi-Instance GPU(MIG)機能によってGPUサーバーのマルチテナント運用における集約率向上に貢献します。
• ■ NVIDIA 技術によって加速される Spark 3.0を搭載。GPUDirect ストレージ、GPUとGPUメモリを意識したSparkスケジューラ、GPU最適化されたSpark SQLアクセラレータを備えます。Spark3.0を使ってデータセンタースケールのデータ処理（学習・推論）をハイスループットに実行します。
• ■ DGX A100にはシステムボード上に8つのNVIDIA A100 GPUを搭載し、それらを第3世代NVLink とNVSwitchにより 600GB/s の帯域で結合。9枚のMellanox ConnectX-6 200Gbpsカードで高スケーラビリティを実現します。ソフトウェアスタックにSpark 3.0、RAPIDS、TensorFlow、PyTorch、Tritonを構成し、5PFLOPSを1台で実現する統合AIシステムです。

NVIDIA GTC 2020

すべてのAIワークロードに対応するユニバーサルシステム

NVIDIA DGX A100は、分析からトレーニング、推論まで、すべてのAIインフラストラクチャのユニバーサルシステムです。コンピューティング密度の新たな基準を設定し、5ペタフロップスのAIパフォーマンスを6Uフォームファクターにパッキングし、従来のインフラストラクチャサイロをすべてのAIワークロード用の1つのプラットフォームに置き換えます。

DGXperts：AI専門知識への統合アクセス

DGXpertsは、規範的なガイダンスと設計の専門知識を提供するAIに精通した施術者が、AIの変革を加速させています。彼らは過去10年間に豊富な経験を積み、DGXへの投資の価値を最大化する14,000人以上のAIに堪能なプロフェッショナルのグローバルチームです。
重要なアプリケーションを迅速に立ち上げて実行し、稼働を維持できるようにし、スムーズに洞察までの時間を飛躍的に向上させます。

最速での解決

比類のないデータセンターのスケーラビリティ

NVIDIA A100 TensorコアGPU

NVIDIA A100 TensorコアGPUは、AI、データ分析、高性能コンピューティング（HPC）にこれまでにない加速を提供し、世界で最も困難なコンピューティングの課題に取り組みます。
また、パフォーマンスを大幅に向上させる第3世代NVIDIA Tensorコアにより、数千まで効率的に拡張できます。
第３世代TensorCore：
DLやHPCのデータ形式に十分な取り扱いサポートを持ちつつ、Sparsity（データ中のゼロの多さ）を意識した機能を備えたことで、V100を超えるスループットを実現（理想的にはV100の２倍のスループット）。
DLの学習が進むと、学習された出力を決定するのに意味のある重みは一部(約半分)となって、残りは不要（重み値がゼロ）になります。
そこでゼロでないデータの番地をインデックス化し、意味のある部分だけ計算してしまえば、学習結果を変えずに無用な計算を省いて高速化できます。

NVIDIA DGX A100紹介

A100のTensorCoreに搭載された新しいTensorFloat-32[TF32]

A100のTensorCoreに搭載された新しいBfloat16[BF16]/FP32混合精度演算

V100とA100の学習・推論性能ベンチ結果

V100とA100のHPC計算ベンチ結果

ホワイトペーパーダウンロード

https://www.nvidia.com/content/dam/en-zz/Solutions/Data-Center/nvidia-ampere-architecture-whitepaper.pdf