このスライドは、2018 年 4 月 24 日 (火) にベルサール高田馬場にて開催の NVIDIA Deep Learning Seminar 2018 における、エヌビディア日本代表兼米国本社副社長 大崎真孝による「GTC 2018 の基調講演から」の資料です。

1. GTC 2018 の基調講演から
エヌビディア 日本代表 兼 米国本社副社長 大崎 真孝

2. 2
Deep Learning Institute
10,000 トレーニング インスタンス
基調講演の再生回数
55 万ビュー
展示フロア
150 の出展社
Inception アワード
3 社の AI スタートアップに
100 万ドルの賞金を授与
総参加者 8,300 人 | 日本からの参加者 352 人
600 を超える技術セッション | 200 人以上のメディア
GTC 2018
2018年3月26～29日 サンノゼ コンベンション センター

3. 3
“Press quote.”
—Publication
基調講演会場への長い列

4. 4
“GTC では AI の未来が紹介されました”
—IT Business Edge

5. 5

6. 6
NVIDIA AI プラットフォーム
NVIDIA GPU
Cloud
NVIDIA AI 推論 TITAN V全てのクラウド
全てのサーバー
ベンダー
Tesla V100 DGX-1 と
DGX Station

7. 7
GPU コンピューティング
フルスタックの最適化によりムーアの法則を超える性能向上
2013年の Fermi GPU 搭載サーバー
GPU で
加速される
ソフトウェア
スタック
cuBLAS 5.0
cuFFT 5.0
NPP 5.0
CUDA 5.0
cuRAND 5.0
cuSPARSE 5.0
Res Mgr R304
BaseOS CentOS 6.2
2018年の Volta GPU 搭載サーバー
HPC アプリケーション Amber 16
CHROMA 2018
Gyrokinetic TC 2017
LAMMPS 2018
MILC 2018
NAMD 2.13
Quantum Esp. 6.1
SPECFEM3D 2018
GPU で
加速される
ソフトウェア
スタック
cuBLAS 9.0
cuFFT 9.0
NPP 9.0
CUDA 9.0
cuRAND 9.0
cuSPARSE 9.0
Res Mgr R384
BaseOS Ubuntu 16.04
Measured performance of Amber, CHROMA, GTC, LAMMPS, MILC, NAMD,
Quantum Espresso, SPECFEM3D
1
10
100
2013 2018
GPU
コンピューティング
CPU
ムーアの法則
HPC アプリケーション Amber 12
NAMD 2.9

8. 8
プロジェクト CLARA
メディカル イメージング スーパーコンピューター
NVIDIA GPU サーバー
CUDA | CUDNN | TENSORRT | OGL | RTX
GPU コンテナー | 仮想 GPU
イメージング & 可視化アプリケーション
https://www.philips.com/a-w/about/news/archive/standard/news/press/2017/20170508-philips-new-
ob-gyn-ultrasound-innovations-with-anatomical-intelligence-provide-lifelike-3d-images.html

9. 9
プロジェクト CLARA
メディカル イメージング スーパーコンピューター
NVIDIA GPU サーバー
CUDA | CUDNN | TENSORRT | OGL | RTX
GPU コンテナー | 仮想 GPU
イメージング & 可視化アプリケーション
ディープラーニングによる
画像再構成
ディープラーニングによる
脳のセグメンテーション
シネマティック
レンダリング
ディープラーニングによる
可視化

10. 10
イメージング開発パートナー
超音波 | MRI | CT | X 線 | マンモグラフィ | PET
ヘルスケア プロバイダー | スタートアップ | イメージング カンパニー

11. 11
AlexNet

12. 12
カンブリア爆発
コンボリューショナル
ネットワーク
ReLuEncoder/Decoder
Dropout PoolingConcat
BatchNorm
リカレント
ネットワーク
GRULSTM
CTC
Beam Search
WaveNet Attention
敵対的生成ネットワーク
3D-GAN
Speech Enhancement GANCoupled GAN
Conditional GANMedGAN
強化学習
DQN Simulation
DDPG
新しいモデル
Neural Collaborative FilteringMixture of Experts
Block Sparse LSTM
Capsule Nets

13. 13
“世界は巨大な GPU を必要としている”

14. 14
NVIDIA DGX-2
“史上最大の GPU”
2 ペタフロップス | 512GB HBM2 メモリ | 消費電力 10 キロワット | 重量 160 キログラム

15. 15
NVIDIA DGX-2
複雑な課題に対応する最も高性能なディープラーニング システム
史上初の 2 ペタフロップス システム
16 基の Tesla V100 32GB GPU がすべて相互接続
NVSwitch: 2.4 TB/s バイセクションバンド幅
GPU-GPU 帯域が 24 倍
合計 GPU メモリ 512 GB
10 倍のディープラーニング性能

16. 16
NVIDIA DGX-2
“史上最大の GPU”
NVSwitch で接続された 16 基の Tesla V100 32GB | 全ての GPU を連結するオンチップ メモリ インターコネクト
512GB HBM2 メモリと 14.4 TB/sec 総バンド幅 | 81,920 CUDA コア | 2 ペタフロップス
GPU 間通信速度
300 ギガバイト / 秒

17. 17
革新的な SXM3 GPU パッケージ
高速な GPU ボード間接続
GPU 毎に 32GB の HBM2 積層メモリ
NVIDIA DGX-2
世界初の 16 GPU AI プラットフォーム

18. 18
巨大なデータセットを迅速にキャッシュへ
SATA SSD より高速、大量データの転送に最適化
劇的に大きなユーザー スクラッチ領域
次世代のストレージ技術における主流プロトコル
8 x 3.84TB NVMe を RAID 0 構成 (データ領域用)
25.5 GB/sec のシーケンシャル リード性能
(DGX-1 の SAS SSD 7TB は 2 GB/s)
NVIDIA DGX-2
NVME SSD ストレージ

19. 19
5 年間で 500 倍
2 個の GeForce GTX 580 (2012年 12月)
フレームワーク
システム
ソフトウェア
スタック
cuda-convnet
NCCL N/A
cuDNN N/A
cuBLAS 5.0
cuFFT 5.0
NPP 5.0
CUDA 5.0
Res Mgr R304
DGX-2 (2018年 3月)
AlexNet
フレームワーク
システム
ソフトウェア
スタック
NV Caffe 0.17
NCCL 2.2
cuDNN 7.1
cuBLAS 9.2
cuFFT 9.2
NPP 9.2
CUDA 9.2
Res Mgr R396
0
2
4
6
8
2 個の GTX 580 DGX-2
AlexNet を学習する時間
6 日
18 分

20. 20
トラディショナル
ハイパースケール
クラスター
300 台のデュアル CPU サーバー
価格 300 万ドル
消費電力 180 キロワット

21. 21
ディープラーニング
のための
NVIDIA DGX-2
1 台の DGX-2
消費電力 10 キロワット
コスト 8 分の 1
設置面積 60 分の 1
消費電力 18 分の 1
ディープラーニングのための大きな節約

22. 22
DGX ファミリー共通のソフトウェア スタック
Cloud Service
Provider
各種ディープラーニングフレームワークをサポート
異なるプラットフォームで同一のコンテナが稼働
どこからでも利用可能
DGX Station DGX-1
NVIDIA
GPU Cloud
DGX-2

23. 23
NVIDIA DGX-2
日本での販売は
NVIDIA Partner Network
エリート パートナー

24. 24
数十億個のスマートセンサーデバイスがインターネットに接続するようになります。 NVIDIA と Arm は、幅広いモバイル、コンシューマエレクトロニクス、
および IoT デバイスでディープラーニング推論を可能にするパートナーシップを発表しました。 Arm は NVDLA 推論アクセラレータを機械学習用の
Project Trillium プラットフォームに統合しました。 このコラボレーションにより、IoT 半導体企業は AI をデザインに統合し、インテリジェントで手頃
な価格の製品を数十億人の消費者の手に送り届けることが出来ます。
Arm と NVIDIA が AI を数十億
の IoT デバイスへもたらす
Arm が NVIDIA DLA を IP に追加

25. 25
動くもの全ては自律動作マシンに
自動車 ロボタクシー トラック
配達バン バス トラクター

26. 26
シミュレーションモデルの学習データ収集 運転
NVIDIA DRIVE
エンド ツー エンド プラットフォーム
Lanes Lights
Path
Signs
PedestriansCars
Lanes Lights
Path
Signs
PedestriansCars

27. 27
検証 / 妥当性確認
NVIDIA DGX
での学習
ラベリングされた
データのライブラリ
テスト
データ
データ
ファクトリ
DRIVE
Pegasus
NVIDIA パーセプション
インフラストラクチャ
大規模ディープラーニングモデル開発
ワークフロー、ツール、スーパーコンピューティング インフラストラクチャ
データ入力、ラベリング、学習、検証、適用
オートメーション、最適モデル探索、トレーサビリティ、再現性
自動車の安全基準準拠
“データこそ新しいソースコードだ”

28. 28
NVIDIA DRIVE 数々の DNN

29. 29

30. 30
シミュレーション
数十億キロへの道
世界では毎年数兆キロ運転されている
米国では 16 億キロ当たり 770 回の
事故が起きる
20 台のテスト車でも年間160万キロ

31. 31
NVIDIA DRIVE SIM
および CONSTELLATION
自動運転検証システム
バーチャル リアリティ自動運転シミュレーター
DRIVE コンピューターと同じアーキテクチャ
稀な条件や難しい条件のシミュレーション、シナリオ
の再作成、リグレッションテストの実行、数十億仮想
キロの運転
10,000 ノードのクラスターで年間 48 億キロを運転

32. 32
370 パートナーが
NVIDIA DRIVE で
開発中
自動車
トラック
モビリティ
サービス
サプライヤー
マッピング
LIDAR
カメラ /
レーダー
スタートアップ

33. 33
NVIDIA DRIVE
ロードマップ
シングル アーキテクチャ
車載グレード
超高エネルギー効率
ASIL-D 機能安全
DRIVE PX Parker
DRIVE PX 2 DRIVE Xavier
OrinDRIVE Pegasus

34. 34
ロボティクスが全ての産業を加速
ヘルスケア配達 コンシューマー 農業 リテール 製造物流

35. 35
DGX-2 登場
世界初の 2 ペタフロップス
コンピューターで、300台のCPU
サーバーの性能を1台で
TESLA V100 32GB 登場
新しい TENSORRT 4
ISAAC
CLARA
シングル アーキテクチャ
XAVIER – PEGASUS - ORIN
NVIDIA
GPU に対応した
Kubernetes
AI 自動運転 新しいプラットフォームグラフィックス
QUADRO GV100
NVIDIA RTX
DRIVE SIM と
CONSTELLATION
GPU コンピューティング革命は続く