SlideShare ist ein Scribd-Unternehmen logo
1 von 42
Downloaden Sie, um offline zu lesen
GMOインターネット
次世代システム研究室
勝田 隼一郎
Deep Learningによる
株価変動の予想
2
http://recruit.gmo.jp/engineer/jisedai/blog/deep-learning/
このスライド内容を、簡略にまとめたブログが以下
にあります。参考にしてください。
3
自己紹介
2006: ボートを漕ぎすぎて留年
2011: 東京大学大学院理学系
研究科物理学 修了(博士)
2011-16: Stanford大学と広島大学で
ポスドク(日本学術振興会;
高エネルギー宇宙物理学)
2016.4: GMOインターネット
次世代システム研究室
データサイエンティスト兼アーキテクト 超新星残骸
勝田 隼一郎
4
本研究の目的
金融商品の予測を行うことは非常に重要な課題
新しい手法の台頭!
Deep Learning
GARCH
従来の手法
vs
時系列解析
5
Outline
株価データの時系列解析
GARCHを使って株価予想
GARCHって?
Rを使ってやってみた
Deep Learning (LSTM) を使って株価予想
なんでLSTMで予想できるの?
Kerasを使ってやってみた
まとめ
6
Data
7
S&P 500
NASDAQに上場している銘柄から代表的な
500銘柄の株価を浮動株調整後の時価総額比率
で加重平均し、指数化したもの
アメリカの代表的な
会社の株価の指標
要するに
時間軸
8
Volatility (Daily)
= 1日の取引中での、値動きの大きさの指標
~ 1日の変動 (≠ Historical volatility)
株価を直接予想したいが。。
9
Volatility of S&P500
Volatility
S&P500の
実データ
時間軸
終値
高値
安値
10
時系列解析
過去に学び(学習し)、未来を予測しよう
曇り空 (→ これまで、こんな空模様の時は雨が
降ってきたなぁ。) → 午後に雨が振りそうだ!
→ 傘を持って行こう
11
過去とのつながり
S&P500
Volatility
時系列解析できそう!
12
GARCH
13
GARCH
Generlized AutoreRegressive Conditional
Heteroscedasticity model
ロバート・エングル(2003年ノーベル経済
学賞受賞)が提唱したモデルの拡張版
Volatilityが時間
によって異なる値を
とることをモデル化
14
GARCH
宇宙は数学という言葉
ガリレオ・ガリレイ
で書かれている。
15
GARCH(1, 1)
予測したい
Volatility
前日の
Volatility
前日の誤差
学習で決める値
= 学習する場所
~ 脳 @ひと
観測データ
= 過去のデータ
~ 外部の刺激
フリーパラメーター
16
Demo
17
結果(1)
ω = 2.65 x 1e-5
α = 0.263
β = 0.682
18
結果(2) 実データ
GARCH
MAPE
(Mean Absolute Percentage Error)
= 33.0% (あまり合っていない)
式から予想される通り、直前のデータに引っ張
られる傾向が見える。
19
パラメータを増やしてみる
実データ
GARCH
MAPE
= 34.3%
GARCH (2, 2)
t-2まで考慮
ほぼ変化なし
むしろ若干悪化
2 22 2
20
ARMA
MAPE
= 30.1%
改善は見られた。
Volatilityデータを直接使用
21
MAPE
= 33.0%
悪くはない。が、volatilityの急激な上下に
(原理的に)ついていけていない。
GARCH
ARMA
30.1%
従来の手法のまとめ
22
Deep Learning
input
data
output
data
モデル
f(x)
23
Deep Learning
Deep!
複雑な表現
層が
が可能
input output
24
RNN (Recurrent Neural Network)
Deep Learningの一種
横にDeep!
過去の出力を入力 → 過去を記憶
時系列データに最適(ただし問題点が)
過去データ
xt
yt
yt-1
xt
yty1 y2
x1 x2
横に展開
25
LSTM (Long Short Term Memory)
今回の解析で使用
LSTM
block
RNN LSTM
input
output
xt
yt
yt-1 yt-1
26
LSTM vs GARCH
良い点
Deepなnetworkで複雑な表現も可能に
インプットに複数のデータを簡単に入
れられる
我々が気づかなかった関係性をキャッ
チできるかも!
27
LSTM vs GARCH
悪い点
時間がかかる
→ 耐えられるレベル
一度、学習すれば速い
結果を理解しづらい
理解する努力が必要
(本研究の目的のひとつ)
28
Keras
直感的に使える
Tensorflow, Theanoをバックエンドで使用
Python
コード量が少ない
→ 初心者に優しい → 海外で人気
29
Demo
30
結果
MAPE = 29.3%
GARCHより良い。振る舞いは似ている?
31
Model構造を変えてみる
LSTM
IN
OUT
LSTM
IN
OUT
LSTM
MAPE = 29.4%
MAPE = 29.3%
32
LSTM
IN
OUT
MAPE = 27.0%
LSTM
IN
OUT
MAPE = 29.3%
linear func
33
Loss function
MAPE
MSE
MAPE = 29.3%
MAPE = 44.3%
34
学習回数
学べば学ぶほど
良い!
、、わけではない。
25.0%
35
過学習
過学習
モデルが学習データに適合しすぎて、ノイズまで
再現するように学習するため、学習データ以外の
データ(予想したいデータ)の予測精度が悪化
→ 適切なパラメータ数、学習回数にするこ
とが大切
36
入力データを増やす
自身のデータ以外に株価に影響を与えそ
うな情報も使えば、より良い予想ができ
るはず!
→ LSTMなら簡単に試せる。
今回は、Google Domestic Trends
(米国内のトピックごとの検索量 ~ 注目度)
を採用
37
Topic: computer, credit card, invest,
bankruptcy
MAPE = 23.7%
改善した!
38
Summary
39
結果の比較
LSTMの勝ち!
しかも伸びしろはまだある
GARCH ARMA LSTM
(Default)
LSTM
(modified)
LSTM
(add. info)
33.0% 30.1% 29.3% 25.0% 23.7%
→ 有望!
(モデル修正、パラメータ調整、新しいデータ)
モデルごとのMAPE
40
参考文献
勝った!
41
今後の方向性
DL(LSTM)は非常に有望。さらに深めたい
Busrt(突発的な上下動)を予想したい
Keyとなるパラメータ
Model構造
入力期間の長さ
(予想に使えそうな)外部データの入力
他の金融商品も予想してみたい
42
ご清聴ありがとうございました!

Weitere ähnliche Inhalte

Was ist angesagt?

状態空間モデルの考え方・使い方 - TokyoR #38
状態空間モデルの考え方・使い方 - TokyoR #38状態空間モデルの考え方・使い方 - TokyoR #38
状態空間モデルの考え方・使い方 - TokyoR #38
horihorio
 
条件付き確率場の推論と学習
条件付き確率場の推論と学習条件付き確率場の推論と学習
条件付き確率場の推論と学習
Masaki Saito
 

Was ist angesagt? (20)

Deep Learning Lab 異常検知入門
Deep Learning Lab 異常検知入門Deep Learning Lab 異常検知入門
Deep Learning Lab 異常検知入門
 
Point net
Point netPoint net
Point net
 
【メタサーベイ】数式ドリブン教師あり学習
【メタサーベイ】数式ドリブン教師あり学習【メタサーベイ】数式ドリブン教師あり学習
【メタサーベイ】数式ドリブン教師あり学習
 
カルマンフィルタ入門
カルマンフィルタ入門カルマンフィルタ入門
カルマンフィルタ入門
 
ブラックボックスからXAI (説明可能なAI) へ - LIME (Local Interpretable Model-agnostic Explanat...
ブラックボックスからXAI (説明可能なAI) へ - LIME (Local Interpretable Model-agnostic Explanat...ブラックボックスからXAI (説明可能なAI) へ - LIME (Local Interpretable Model-agnostic Explanat...
ブラックボックスからXAI (説明可能なAI) へ - LIME (Local Interpretable Model-agnostic Explanat...
 
Optimizer入門&最新動向
Optimizer入門&最新動向Optimizer入門&最新動向
Optimizer入門&最新動向
 
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
 
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
 
CV分野におけるサーベイ方法
CV分野におけるサーベイ方法CV分野におけるサーベイ方法
CV分野におけるサーベイ方法
 
非線形データの次元圧縮 150905 WACODE 2nd
非線形データの次元圧縮 150905 WACODE 2nd非線形データの次元圧縮 150905 WACODE 2nd
非線形データの次元圧縮 150905 WACODE 2nd
 
強化学習エージェントの内発的動機付けによる探索とその応用(第4回 統計・機械学習若手シンポジウム 招待公演)
強化学習エージェントの内発的動機付けによる探索とその応用(第4回 統計・機械学習若手シンポジウム 招待公演)強化学習エージェントの内発的動機付けによる探索とその応用(第4回 統計・機械学習若手シンポジウム 招待公演)
強化学習エージェントの内発的動機付けによる探索とその応用(第4回 統計・機械学習若手シンポジウム 招待公演)
 
SHAP値の考え方を理解する(木構造編)
SHAP値の考え方を理解する(木構造編)SHAP値の考え方を理解する(木構造編)
SHAP値の考え方を理解する(木構造編)
 
状態空間モデルの考え方・使い方 - TokyoR #38
状態空間モデルの考え方・使い方 - TokyoR #38状態空間モデルの考え方・使い方 - TokyoR #38
状態空間モデルの考え方・使い方 - TokyoR #38
 
機械学習で泣かないためのコード設計 2018
機械学習で泣かないためのコード設計 2018機械学習で泣かないためのコード設計 2018
機械学習で泣かないためのコード設計 2018
 
強化学習 と ゲーム理論 (MARL)
強化学習 と ゲーム理論 (MARL)強化学習 と ゲーム理論 (MARL)
強化学習 と ゲーム理論 (MARL)
 
Tensor コアを使った PyTorch の高速化
Tensor コアを使った PyTorch の高速化Tensor コアを使った PyTorch の高速化
Tensor コアを使った PyTorch の高速化
 
【慶應大学講演】なぜ、博士課程に進学したか?
【慶應大学講演】なぜ、博士課程に進学したか?【慶應大学講演】なぜ、博士課程に進学したか?
【慶應大学講演】なぜ、博士課程に進学したか?
 
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
 
条件付き確率場の推論と学習
条件付き確率場の推論と学習条件付き確率場の推論と学習
条件付き確率場の推論と学習
 
Curriculum Learning (関東CV勉強会)
Curriculum Learning (関東CV勉強会)Curriculum Learning (関東CV勉強会)
Curriculum Learning (関東CV勉強会)
 

Andere mochten auch

はじめてでもわかるベイズ分類器 -基礎からMahout実装まで-
はじめてでもわかるベイズ分類器 -基礎からMahout実装まで-はじめてでもわかるベイズ分類器 -基礎からMahout実装まで-
はじめてでもわかるベイズ分類器 -基礎からMahout実装まで-
Naoki Yanai
 
パターン認識 第10章 決定木
パターン認識 第10章 決定木 パターン認識 第10章 決定木
パターン認識 第10章 決定木
Miyoshi Yuya
 
Simple perceptron by TJO
Simple perceptron by TJOSimple perceptron by TJO
Simple perceptron by TJO
Takashi J OZAKI
 
機会学習ハッカソン:ランダムフォレスト
機会学習ハッカソン:ランダムフォレスト機会学習ハッカソン:ランダムフォレスト
機会学習ハッカソン:ランダムフォレスト
Teppei Baba
 
Tokyo.R 41 サポートベクターマシンで眼鏡っ娘分類システム構築
Tokyo.R 41 サポートベクターマシンで眼鏡っ娘分類システム構築Tokyo.R 41 サポートベクターマシンで眼鏡っ娘分類システム構築
Tokyo.R 41 サポートベクターマシンで眼鏡っ娘分類システム構築
Tatsuya Tojima
 
ロジスティック回帰の考え方・使い方 - TokyoR #33
ロジスティック回帰の考え方・使い方 - TokyoR #33ロジスティック回帰の考え方・使い方 - TokyoR #33
ロジスティック回帰の考え方・使い方 - TokyoR #33
horihorio
 
機械学習チュートリアル@Jubatus Casual Talks
機械学習チュートリアル@Jubatus Casual Talks機械学習チュートリアル@Jubatus Casual Talks
機械学習チュートリアル@Jubatus Casual Talks
Yuya Unno
 

Andere mochten auch (18)

Deep Q-LearningでFXしてみた
Deep Q-LearningでFXしてみたDeep Q-LearningでFXしてみた
Deep Q-LearningでFXしてみた
 
為替のTickdataをDukascopyからダウンロードする
為替のTickdataをDukascopyからダウンロードする為替のTickdataをDukascopyからダウンロードする
為替のTickdataをDukascopyからダウンロードする
 
為替取引(FX)でのtickdataの加工とMySQLで管理
為替取引(FX)でのtickdataの加工とMySQLで管理為替取引(FX)でのtickdataの加工とMySQLで管理
為替取引(FX)でのtickdataの加工とMySQLで管理
 
分類問題 - 機械学習ライブラリ scikit-learn の活用
分類問題 - 機械学習ライブラリ scikit-learn の活用分類問題 - 機械学習ライブラリ scikit-learn の活用
分類問題 - 機械学習ライブラリ scikit-learn の活用
 
トピックモデルを用いた 潜在ファッション嗜好の推定
トピックモデルを用いた 潜在ファッション嗜好の推定トピックモデルを用いた 潜在ファッション嗜好の推定
トピックモデルを用いた 潜在ファッション嗜好の推定
 
はじめてでもわかるベイズ分類器 -基礎からMahout実装まで-
はじめてでもわかるベイズ分類器 -基礎からMahout実装まで-はじめてでもわかるベイズ分類器 -基礎からMahout実装まで-
はじめてでもわかるベイズ分類器 -基礎からMahout実装まで-
 
パターン認識 第10章 決定木
パターン認識 第10章 決定木 パターン認識 第10章 決定木
パターン認識 第10章 決定木
 
今日から使える! みんなのクラスタリング超入門
今日から使える! みんなのクラスタリング超入門今日から使える! みんなのクラスタリング超入門
今日から使える! みんなのクラスタリング超入門
 
Simple perceptron by TJO
Simple perceptron by TJOSimple perceptron by TJO
Simple perceptron by TJO
 
バンディットアルゴリズム入門と実践
バンディットアルゴリズム入門と実践バンディットアルゴリズム入門と実践
バンディットアルゴリズム入門と実践
 
決定木学習
決定木学習決定木学習
決定木学習
 
SVMについて
SVMについてSVMについて
SVMについて
 
機会学習ハッカソン:ランダムフォレスト
機会学習ハッカソン:ランダムフォレスト機会学習ハッカソン:ランダムフォレスト
機会学習ハッカソン:ランダムフォレスト
 
Tokyo.R 41 サポートベクターマシンで眼鏡っ娘分類システム構築
Tokyo.R 41 サポートベクターマシンで眼鏡っ娘分類システム構築Tokyo.R 41 サポートベクターマシンで眼鏡っ娘分類システム構築
Tokyo.R 41 サポートベクターマシンで眼鏡っ娘分類システム構築
 
「はじめてでもわかる RandomForest 入門-集団学習による分類・予測 -」 -第7回データマイニング+WEB勉強会@東京
「はじめてでもわかる RandomForest 入門-集団学習による分類・予測 -」 -第7回データマイニング+WEB勉強会@東京「はじめてでもわかる RandomForest 入門-集団学習による分類・予測 -」 -第7回データマイニング+WEB勉強会@東京
「はじめてでもわかる RandomForest 入門-集団学習による分類・予測 -」 -第7回データマイニング+WEB勉強会@東京
 
ロジスティック回帰の考え方・使い方 - TokyoR #33
ロジスティック回帰の考え方・使い方 - TokyoR #33ロジスティック回帰の考え方・使い方 - TokyoR #33
ロジスティック回帰の考え方・使い方 - TokyoR #33
 
一般向けのDeep Learning
一般向けのDeep Learning一般向けのDeep Learning
一般向けのDeep Learning
 
機械学習チュートリアル@Jubatus Casual Talks
機械学習チュートリアル@Jubatus Casual Talks機械学習チュートリアル@Jubatus Casual Talks
機械学習チュートリアル@Jubatus Casual Talks
 

Ähnlich wie Deep Learningによる株価変動の予想

Autoware: ROSを用いた一般道自動運転向けソフトウェアプラットフォーム
Autoware: ROSを用いた一般道自動運転向けソフトウェアプラットフォームAutoware: ROSを用いた一般道自動運転向けソフトウェアプラットフォーム
Autoware: ROSを用いた一般道自動運転向けソフトウェアプラットフォーム
Takuya Azumi
 

Ähnlich wie Deep Learningによる株価変動の予想 (20)

NNで広告配信のユーザー最適化をやってみた。@ TFUG #3
NNで広告配信のユーザー最適化をやってみた。@ TFUG #3NNで広告配信のユーザー最適化をやってみた。@ TFUG #3
NNで広告配信のユーザー最適化をやってみた。@ TFUG #3
 
TensorFlowでニューラルネットを作って、広告配信の最適化をやってみた
TensorFlowでニューラルネットを作って、広告配信の最適化をやってみたTensorFlowでニューラルネットを作って、広告配信の最適化をやってみた
TensorFlowでニューラルネットを作って、広告配信の最適化をやってみた
 
20190214 Tobita Tech Yuma Matsuoka AI Tech
20190214 Tobita Tech Yuma Matsuoka AI Tech20190214 Tobita Tech Yuma Matsuoka AI Tech
20190214 Tobita Tech Yuma Matsuoka AI Tech
 
20110421
2011042120110421
20110421
 
プロジェクトマネジメント再入門 〜PjMは何であって何でないのか〜
プロジェクトマネジメント再入門 〜PjMは何であって何でないのか〜プロジェクトマネジメント再入門 〜PjMは何であって何でないのか〜
プロジェクトマネジメント再入門 〜PjMは何であって何でないのか〜
 
FIX委員会メンバーセミナー(2017/6/21) 人工市場を用いた 金融市場の制度・規制の議論
FIX委員会メンバーセミナー(2017/6/21) 人工市場を用いた 金融市場の制度・規制の議論FIX委員会メンバーセミナー(2017/6/21) 人工市場を用いた 金融市場の制度・規制の議論
FIX委員会メンバーセミナー(2017/6/21) 人工市場を用いた 金融市場の制度・規制の議論
 
Akira shibata at developer summit 2016
Akira shibata at developer summit 2016Akira shibata at developer summit 2016
Akira shibata at developer summit 2016
 
PyData Tokyo Tutorial & Hackathon #1
PyData Tokyo Tutorial & Hackathon #1PyData Tokyo Tutorial & Hackathon #1
PyData Tokyo Tutorial & Hackathon #1
 
Autoware: ROSを用いた一般道自動運転向けソフトウェアプラットフォーム
Autoware: ROSを用いた一般道自動運転向けソフトウェアプラットフォームAutoware: ROSを用いた一般道自動運転向けソフトウェアプラットフォーム
Autoware: ROSを用いた一般道自動運転向けソフトウェアプラットフォーム
 
金融業界における人工知能と人工市場シミュレーションによる規制やルールの議論
金融業界における人工知能と人工市場シミュレーションによる規制やルールの議論金融業界における人工知能と人工市場シミュレーションによる規制やルールの議論
金融業界における人工知能と人工市場シミュレーションによる規制やルールの議論
 
20130426 研究遂行abc all
20130426 研究遂行abc all20130426 研究遂行abc all
20130426 研究遂行abc all
 
計算で明らかにするタンパク質の出会いとネットワーク(FIT2016 助教が吼えるセッション)
計算で明らかにするタンパク質の出会いとネットワーク(FIT2016 助教が吼えるセッション)計算で明らかにするタンパク質の出会いとネットワーク(FIT2016 助教が吼えるセッション)
計算で明らかにするタンパク質の出会いとネットワーク(FIT2016 助教が吼えるセッション)
 
SciREX「ナショナルイノベーションシステムに係る定量データとその分析手法」WSシリーズ第4回 サイエンスリンケージデータベースの使い方
SciREX「ナショナルイノベーションシステムに係る定量データとその分析手法」WSシリーズ第4回サイエンスリンケージデータベースの使い方SciREX「ナショナルイノベーションシステムに係る定量データとその分析手法」WSシリーズ第4回サイエンスリンケージデータベースの使い方
SciREX「ナショナルイノベーションシステムに係る定量データとその分析手法」WSシリーズ第4回 サイエンスリンケージデータベースの使い方
 
NIPS2015概要資料
NIPS2015概要資料NIPS2015概要資料
NIPS2015概要資料
 
20150414seminar
20150414seminar20150414seminar
20150414seminar
 
Kansai MotionControl Networkキックオフ
Kansai MotionControl NetworkキックオフKansai MotionControl Networkキックオフ
Kansai MotionControl Networkキックオフ
 
Askul internal study-session
Askul internal study-sessionAskul internal study-session
Askul internal study-session
 
機械学習を用いた東西日本の境界線決定
機械学習を用いた東西日本の境界線決定機械学習を用いた東西日本の境界線決定
機械学習を用いた東西日本の境界線決定
 
実社会・実環境におけるロボットの機械学習 ver. 2
実社会・実環境におけるロボットの機械学習 ver. 2実社会・実環境におけるロボットの機械学習 ver. 2
実社会・実環境におけるロボットの機械学習 ver. 2
 
20180803
2018080320180803
20180803
 

Deep Learningによる株価変動の予想