21世紀の手法対決 (MIC vs HSIC)

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
21 世紀の手法対決
. .
参考
.
......
@motivic
第 33 回 R 勉強会@東京
2013 年 8 月 31 日
@motivic 21 世紀の手法対決

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
目次
...1 はじめに
自己紹介
...2 21 世紀の手法対決
20 世紀の独立性を見つける方法の限界
21 世紀の相関：MIC
21 世紀の検定：HSIC test
いざ勝負！
...3 参考
参考文献
参考 HP

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
自己紹介
twitter ID：@motivic
職業：研究室に住む妖精
研究分野



代数統計 (代数幾何)
情報幾何
トポロジカルデータ解析



を用いた



医療統計
疫学
因果推論



統計ゆるふわ勢

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
はじめに
注意
本日の話では交絡（擬似相関）は避けられていると仮定
ただし、本日の議論を交絡がある場合に拡張することも可能

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
変数の独立性
.
変数同士が U 字型の関連を持つ場合の独立性検定
..
......
U 字型の相関係数はかなり小さい
普通の独立性検定をすると、独立と判定される

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
線形から非線形へ
.
従来法
..
......
Pearson の相関係数は線形的な関係を見るもの
順位相関係数は単調的な関係を見るもの
非線形な関係を見るためには離散化する必要があった
しかし離散化に恣意性が入る

.
線形から非線形へ
..
...... 非線形の関係をうまく捉える方法が出てきた！


.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
21 世紀の相関：MIC(Maximal Information Coefﬁcient)
21世紀の相関係数：MIC

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考

.
21 世紀の相関：MIC(Reshef et al, 2011)
..
......
2011 年に Science 誌に 21 世紀の相関係数なんて呼ばれるも
のが出てきた
これを使えば非線形な関連も捉えられる
アイデアとしては、従来の離散化には恣意性があったので、
ありうる全ての離散化をして計算すればいいじゃん、という
レベルを上げて物理で殴ればいい的な考え

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考

.
MIC(Maximal Information Coefﬁcient) の計算
..
......
x × y < n0.6
を満たす全ての x × y の離散化を考える
各分割で正規化した相互情報量が高い分割点を網羅的に探索
全分割の中で正規化した相互情報量が最大のものを選ぶ

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
.
R で MIC を計算するパッケージ
..
......
minerva というパッケージで MIC が計算できる。
cars データ (車の速さと停止距離のデータ) で MIC を計算してみ
ると、
>library(minerva)
>mine(cars)$MIC[1,2]
[1] 0.666265

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
HSIC(Hilbert-Schmidt Independence Criterion) test
21世紀の検定：HSIC test

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
みんな大好き！
再生核ヒルベルト空間！

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
.
再生核ヒルベルト空間を用いた独立性検定
..
......
再生核ヒルベルト空間を用いたノンパラメトリックな独立性
検定 (HSIC test, Hilbert-Schmidt Independence Criterion test)
なんてものもある (Gretton et al, 2005, 2010)
これを使っても非線形な関連を見つけられる
アイデアとしては、データを再生核ヒルベルト空間に移し
て、その中で関係性を見るというハイソなやり方

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
x
x
i
j
k( , )
k( , )
xi
jx
Hx
ガウスカーネル kG(x, y) = exp
(
−
1
2σ2
||x − y||2
)
ラプラスカーネル kL (x, y) = exp

−β
n∑
i=1
|xi − yi|

 など

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
x
x
i
j
k( , )
k( , )
xi
jx
Hx
y
y
i
j
k( , )
k( , )
yi
jy
Hy

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
x
x
i
j
k( , )
k( , )
xi
jx
Hx
y
y
i
j
k( , )
k( , )
yi
jy
Hy
Σyx

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
.
定理
..
......
< ΣYX f, g >HY
= E[f(X)g(Y)] − E[f(X)]E[g(Y)]
を満たす ΣYX が一意的に存在する。
HYX := ∥ΣYX ∥2
HS

としたとき（∥ · ∥HS は Hilbert-Schmidt ノルム）、カーネルが特性
的であれば、
X ⊥⊥ Y ⇔ HYX = 0

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
.
R での計算
..
......
実装は Rcpp でしています
Rcpp については第 29 回 R 勉強会＠東京の大仏様の資料がお
ススメ！
http://www.slideshare.net/teramonagi/tokyor-rcpp-16709700
具体的なコードの公開は HSIC を応用した論文を書くまでお
待ちを

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
MIC vs HSIC
2つの手法の勝負！

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
MIC vs HSIC

U 字型の関連を持つものにノイズを加えたもの
この関連をどれだけ捉えられるかの検出力で比較する

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
MIC vs HSIC


.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
MIC vs HSIC

線形の関連を持つものにノイズを加えたもの

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
MIC vs HSIC

指数型の関連を持つものにノイズを加えたもの

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
MIC vs HSIC
.
まとめ
..
......
MIC は U 字型の関係ではそこそこ良いが、線形的や単調な関
係に対してはノイズが入ると検出力がかなり落ちる
HSIC は非線形の関係も捉えつつ、線形的や単調的な場合も
従来法並みの検出力がある

.
判定
..
...... HSICの勝ち！

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
GMIC vs MIC vs HSIC
.
GMIC について
..
......
今週 GMIC という MIC の検出力の低さを改善させた論文のプ
レプリントで出てました
論文を読んでみたところ検出力は
HSIC >>> GMIC > MIC
となりそうなので、やっぱり HSIC がスゴイ


.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
参考文献
Reshef, D. N., Reshef, Y. A., Finucane, H. K., Grossman, S. R.,
McVean, G., Turnbaugh, P. J., Lander, E. S., Mitzenmacher, M.,
Sabeti, P.C.(2011). Detecting Novel Associations in Large Data
Sets, Science 334 (6062), 1518-1524
Gretton, A., Bousquet, O., Smola, A., and Schoelkopf, B.(2005).
Measuring Statistical Dependence with Hilbert-Schmidt Norms, MPI
for Biological Cybernetics (140)
Gretton, A. and Gyorﬁ, L.(2010) Consistent Nonparametric Tests of
Independence, Journal of Machine Learning Research, 11 ,
pp.1391–1423

.
はじめに
. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. .
参考
参考 HP
MIC について
Take a Risk：林岳彦の研究メモ − 2013-04-26
”相関”の話＆そのついでに”21 世紀の相関 (MIC)”の話
http://d.hatena.ne.jp/takehiko-i-hayashi/20130426/1366948560
HSIC について
統数研の福水先生の HP にある色々な資料
http://www.ism.ac.jp/˜ fukumizu/

21世紀の手法対決 (MIC vs HSIC)

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Recently uploaded

Recently uploaded (10)

21世紀の手法対決 (MIC vs HSIC)