Deep Learningの出来る限り簡単な説明です。 機械学習、Deep Learningに触れたことがない方にも極力伝わるように、コアなアイデアと、それに伴うイメージを出来るだけ少ない枚数でお伝えしようと思い作成しました。

1. Deep Learning の入り口
菅原 健太
慶應義塾大学管理工学科4年 鈴木研究室
kenta.sugawara.p [at] gmail.com
1

2. この資料の目的
Deep Learningのイメージを
出来る限りシンプルに抑えること
シンプルさを追いかけたため、
多少正確さがかけるところがありますがご容赦ください。
Deep Learningを理解する一助となれば幸いです。
2

3. Deep Learning とは
最近注目されているすごい機械学習の手法
※機械学習：機械がデータを元に賢くなっていくアルゴリズムのこと
何がすごいか？
➡圧倒的性能／自動で特徴を学習
何が出来る？
➡回帰／分類／クラスタリング
画像認識／音声認識／教科学習...etc
例： 回帰：為替相場の変動データから、１０秒後の為替相場の予測
分類：手書き文字が、なんと書いてあるかの読解 等
3

4. Deep Learningのすごさ
[Lee+’09]Convolutional Deep Belief Networks for Scalable Unsupervised Learning of Hierarchical Representations 引用元734
生の画像から特徴を自動抽出して画像認識できる
人・車・像などの写真をDeep Learning に与えたときに、
自動的に下図の様な特徴（識別器）を獲得した。
4

5. なぜ、いま注目されているか？
出典 左：http://danielnouri.org/notes/category/bioacoustics/ 右：http://www.slideshare.net/pfi/deep-learning-22350063
2012年頃に各コンペで
Deep Learningが圧倒的性能を叩き出して優勝
IMAGE NET
写真から1000種類の名称のどれかを当てるタスク 年度ごとの優勝チームの間違い率の変化
Deep Learningの登場
5

6. 化合物の活性予測コンペ(2012)の
例
参考：https://www.kaggle.com/c/MerckActivity
Deep Learningを使ったチームが
化学領域の知識(ドメイン知識)を持たずに
データ分析のエキスパートチームを抑えての優勝
Deep Learning 登場以前は「特徴量」※データの違いを上手く表す
量
を作る職人技によって基本性能が左右されていた。
Deep Learningは今まで苦労して作っていた
「特徴量」をデータから自動で生成する
6

7. Googleも注目
GoogleがイギリスのAI会社
「Deep Mind」を４億ドルで買収(2014年)
Deep Mindの機械学習の技術者確保のためといわれている
Deep Mindは創業2011年の若い会社
Deep Mind社：2015年3月ゲームの学習を公開(強化学習) イメージ：ゲームを上手くやると機械は褒められて伸びる
7
Google DeepMind's Deep Q-learning playing Breakout

8. Deep Learningの仕組みイメージ
例：画像認識
目的：手書き文字を判別する
手順１．特徴を学ぶ
脳を参考にした手法、ニューラルネットワークにより特徴を抽出。
（詳しくは、AutoEncoder か RBM (Restricted Boltzmann Machines)等で検索）
8特徴画像出典：http://www.cs.toronto.edu/~ranzato/research/projects.html
➡ ７ ５ ３ ５ ３
① 手書き文字データを入力
…
…
←② 特徴をうまく取り出せるように計算
←③ 計算終了後入っている特徴を取り出す➡
５っぽいニューラルネットワーク

9. Deep Learningの仕組みイメージ
例：画像認識
手順２．学んだ特徴を使ってどの数字かを判別する
9特徴画像出典：http://www.cs.toronto.edu/~ranzato/research/projects.html
① 判別したい手書き文字データを入力
…
… ←特徴が入ってる
どの特徴に当てはまっているかが分かる
…出力層
入力層
値０ 値１ 値２ 値９
中間層
手書きの文字の０っぽさ
手書きの文字の９っぽさ
②特徴を利用して入力した値が
０である確率のようなもの
〜
９である確率のようなもの が出てくる
③この値を元に、入力されたデータが
どの数字だったかを判別する
中間層はたくさん積み重ねる事ができる
上手く特徴を抽象化できると精度が上がりそう
というのがDeep Leaningの発想
＝ ０