27. このセクションの参考⽂献
G. Hinton, O. Vinyals, J. Dean, “Distilling the Knowledge in a Neural Network”,
arXiv:1503.02531.
準真値の学習により、教師モデルより賢い⽣徒モデルを⽣成
T. Furlanello, Z. C. Lipton, M. Tschannen, L. Itti, A. Anandkumar,
“Born Again Neural Networks”, NIPS workshop 2017.
強くなった⽣徒モデルを教師モデルに格上げする、
「世代交代」によって汎化能⼒を上げる
準真値の活⽤により⼤規模な⾛⾏データセットを⽣成
(物体検出、インスタンス領域分割、⽩線の真値を含む)
F. Yu, W. Xian, Y. Chen, F. Liu, M. Liao,
V. Madhavan, T. Darrell,
“BDD100K: A Diverse Driving Video Database
with Scalable Annotation Tooling”, arXiv:1805.04687.
SSII2018 佐藤@デンソーITラボラトリ 27
43. 1対1通信と集団通信| 研究の流れ(⼀部)
SSII2018 佐藤@デンソーITラボラトリ
⼀
対
⼀
通
信
2012 2017
集
団
通
信
S. Gupta+, Model Accuracy
and Runtime Tradeoff in
Distributed Deep Learning,
ICDM2016
J. Dean+, Large Scale
Distributed Deep
Networks, NIPS2012
R. Wu (Baidu)+,
Deep Image:
Scaling up Image
Recognition,
arxiv:1501.02876 F. N. Iandola+, FireCaffe:
near-linear acceleration of
deep neural network training
on compute clusters, CVPR 2016
Y. Oyama+ (東⼯⼤・デンソーITラボ),
Predicting Statistics of
Asynchronous SGD Parameters for
a Large-Scale Distributed Deep
Learning System on GPU Supercomputer,
IEEE BigData 2016
Y. You+, arxiv:1709.05011
T. Akiba+, arxiv:1711.04325
Goyal+, arxiv:1706.02677
ResNet-50 ⾼速学習
⾮同期に拡張
既存のネットワークの
学習をほぼ線形で⾼速化
Allreduce
を使った
⼤規模学習
2016
パラメタサーバの
⽊構造化による
通信ボトルネック
回避
DistBelief
43
49. 同期型と⾮同期型| 研究の流れ(⼀部)
SSII2018 佐藤@デンソーITラボラトリ
同
期
型
2011 2017
⾮
同
期
型
J. Dean+, Large Scale
Distributed Deep
Networks, NIPS2012
F. N. Iandola+,
FireCaffe:
near-linear acceleration
of deep neural network
training on compute
clusters, CVPR 2016
Y. Oyama+
(東⼯⼤・デンソーITラボ),
Predicting Statistics of
Asynchronous SGD
Parameters for a Large-
Scale Distributed Deep
Learning System on GPU
Supercomputer,
IEEE BigData 2016
Y. You+, arxiv:1709.05011
T. Akiba+, arxiv:1711.04325
Goyal+, arxiv:1706.02677
ResNet-50 ⾼速学習
⾮同期型 Allreduce
2016
B. Recht+, Hogwild:
A Lock-Free Approach
to Parallelizing
Stochastic Gradient
Descent, NIPS2011
各ノードが
ロックなしに
パラメタを
⾃由に上書き
→学習⾼速化
DistBelief
ILSVRCでは同期型分散が標準的
2012
R. Wu (Baidu)+,
Deep Image:
Scaling up Image
Recognition,
arxiv:1501.02876
同期型 Allreduce
I. Sato+
(デンソーITラボ・東⼯⼤),
Asynchronous, Data-Parallel
Deep Convolutional Neural
Network Training with Linear
Prediction Model for Parameter
Transition, ICONIP2017
A. Krizhevsky+,
ImageNet Classifi-
cation with Deep
Convolutional
Neural Networks,
NIPS2012
マルチGPU
TensorFlow
(2015)
(Downpour SGD)
49
54. ⾮同期型| MPI-Allreduceを使った事例
thread_main
thread_1
thread_2
ネットワーク
スイッチへ
CPU
GPU 1 GPU 2
メモリ ネット
ワーク
カード
PCIe
重み 勾配
SSII2018 佐藤@デンソーITラボラトリ
I. Sato, R. Fujisaki, Y. Oyama, A. Nomura, S. Matsuoka,
Asynchronous, Data-Parallel Deep
Convolutional Neural Network
Training with Linear Prediction
Model for Parameter Transition,
ICONIP2017
Y. Oyama, A. Nomura, I. Sato, H. Nishimura,
Y. Tamatsu, S. Matsuoka,
Predicting Statistics of Asynchronous SGD
Parameters for a Large-Scale Distributed Deep
Learning System on GPU Supercomputer,
IEEE BigData 2016
54
72. 同期型 vs ⾮同期型
更新あたりの
コストの降下量
更新頻度
同期型
最急
降下法
(バッチ)
アソビの短縮
ステイルネスの緩和
通信の隠蔽[1]
通信変数の圧縮[2]
SSII2018 佐藤@デンソーITラボラトリ
[1]⼭崎ら, MPIを⽤いたDeep Learning処理⾼速化の提案, IPSJ SIG Tech Report 2016
[2]⼤⼭ら, ディープラーニングのデータ並列学習における少精度浮動⼩数点数を⽤いた通信量の削減, IPSJ SIG Tech Report, 2017
Y. Lin+, Deep Gradient Compression: Reducing the communication bandwidth for distributed training, ICLR2018
[3] I. Sato+, Asynchronous, Data-Parallel Deep Convolutional Neural Network Training with Linear Prediction …, ICONIP2017
[4] S. Zheng+, Asynchronous Stochastic Gradient Descent with Delay Compensation, ICML2017
[5] A. Gaunt+, AMPNet: Asynchronous Model-Parallel Training for Dynamic Neural Networks. arxiv:1705.09786
パラメタの予測[3]
更新量の補正[4]
パイプライン化[5]⾮同期型
72
78. Oops, not that easy…
計算機の増⼤
バッチサイズの増⼤
コストの降下速度が頭打ち
汎化能⼒が劣化
⼤バッチほど収束に
多数のエポックが必要
O. Bhardwaj & G. Cong, ICLR2017.
A. Krizhevsky, arxiv:1404.5997
P. Goyal+, arxiv:1706.02677
N. S. Keskar+, ICLR2017
CIFAR-10の学習曲線
降下速度が
頭打ち
SSII2018 佐藤@デンソーITラボラトリ 78
79. Oops, not that easy…
計算機の増⼤
バッチサイズの増⼤
コストの降下速度が頭打ち
汎化能⼒が劣化
⼤バッチほど収束に
多数のエポックが必要
O. Bhardwaj & G. Cong, ICLR2017.
A. Krizhevsky, arxiv:1404.5997
P. Goyal+, arxiv:1706.02677
N. S. Keskar+, ICLR2017
CIFAR-10の学習曲線
⼤バッチほど
性能不良
SSII2018 佐藤@デンソーITラボラトリ 79
80. Oops, not that easy…
計算機の増⼤
バッチサイズの増⼤
コストの降下速度が頭打ち
汎化能⼒が劣化
⼤バッチほど収束に
多数のエポックが必要
O. Bhardwaj & G. Cong, ICLR2017.
A. Krizhevsky, arxiv:1404.5997
P. Goyal+, arxiv:1706.02677
N. S. Keskar+, ICLR2017
CIFAR-10の学習曲線
⼤バッチほど
性能不良
深層学習の「のろい」
SSII2018 佐藤@デンソーITラボラトリ 80
81. Sharp と Flat
LB学習があまり汎化しない、直感的な理由
LB: Large Batch
SB: Small Batch
勾配が広範囲に渡って緩い局所解ほど汎化良好。
LB学習では微分の「ノイズ」が相対的に⼩さく、
尖った解に落ちると抜け出せない。
SB学習の収束点は、どのバッチにとっても緩い勾配。
全コストの勾配も広範囲に渡って緩い。
N. S. Keskar+, ICLR2017
SB学習は
それ⾃体が正則化
であると考えてよい
SSII2018 佐藤@デンソーITラボラトリ 81
82. Sharp と Flat | トイ問題
Expected Loss 𝔼 Stochastic Loss
バッチサイズ B 標本数 N=1024
尖った解から
“抜け出しやすそう”
尖った解から
“抜け出しにくそう”
SSII2018 佐藤@デンソーITラボラトリ 82
動画