1. コード最適化と機械学習
澄川 靖信
@sumi_1554
2014/1/11
DSIRNLP 5
1

2. 今日の内容

興味がある研究について話します．
1.
コンパイラのコード最適化
私の修士論文の内容について説明した後，
現在の研究のざっくりしたテーマを話します．
2.
機械学習のクラスタリングと分類器
2

3. 大域ロード命令集約（GLIA）（修論）

キャッシュメモリのヒット率を向上
同じ配列へのアクセスを連続させる
→ メモリの空間的局所性を向上


結果 （ベンチマーク: SPEC2000）


実行効率: 最大で約12.9%の向上
キャッシュヒット率


L2: 最大で約17%向上
L3: 最大で約99%向上
3

4. 大域ロード命令集約（GLIA）
x = a[i]
y = b[i]
z = a[i+1]
命令の実行順序
を表すグラフ
キャッシュメモリ
保存している
データを表す
4

5. 大域ロード命令集約（GLIA）
この命令
を実行
x = a[i]
y = b[i]
z = a[i+1]
キャッシュヒットす
る事が期待できる
a[i]
a[i+1]
キャッシュメモリ
5

6. 大域ロード命令集約（GLIA）
x = a[i]
y = b[i]
z = a[i+1]
b[i]
a[i+1]の
追い出し
b[i+1]
キャッシュメモリ
6

7. 大域ロード命令集約（GLIA）
x = a[i]
y = b[i]
z = a[i+1]
キャッシュ
ミス
b[i]
b[i+1]
キャッシュメモリ
7

8. 大域ロード命令集約（GLIA）
x = a[i]
レジスタスピルを
防ぐための移動
t = a[i+1]
キャッシュミスを
防ぐための移動
y = b[i]
z=t
8

9. コンパイラの研究での興味

ハードウェアを考慮した最適化
キーワード
 キャッシュメモリ
 レジスタ
 コード移動
9

10. MLで興味がある内容

クラスタリング，分類器


MDS
K近傍
ナイーブベイジアン分類器
 SVM
 蟻コロニー最適化
など

10

11. 蟻コロニー最適化

蟻の群れによって解を求める．
蟻は，餌を巣に持ち帰るとき，
帰り道上にフェロモンを置く．
→ 他の蟻に餌のある場所を間接的に教える．

11

12. 蟻コロニー最適化

蟻の群れによって解を求める．

データマイニングに適用可．

AntMiner*が初期の手法



*
分類を行う．
SVMに匹敵する結果が得られる場合もある．
改良版（AntMiner2, AntMiner+）も提案されている．
Parpinelli et al. An ant colony based system for data mining, GECCO, 2001）
12

13. MLの勉強している（知りたい）こと

教師あり学習



データ数はどのぐらい必要？
SVMなど用いた場合，過学習が起こりそうな状況は？
もっとよい他の分類・クラスタリングがあるか？


現状：入門 機械学習，自然言語処理，言語処理のための機
械学習で勉強しながら，Weka等で遊んでいる
Web分類や特徴抽出に関する論文のサーベイはこれから
13

14. まとめ

コンパイラの興味



MLの興味


キャッシュ，レジスタの効率向上
GLIA
クラスタリング，分類器
注目している研究

蟻コロニー最適化

GLIAと組合わせるとおもしろいかも
14

15. 補足資料
15

16. 蟻コロニー最適化

条件となる変数とその値をグラフで表現


条件：性別，預金など．
グラフ上を蟻が歩く

最も質の高い経路を通った蟻だけが，
餌を見つけたとする．
16

17. 蟻コロニー最適化

例：銀行で融資すべきではない人の特徴を知
りたい
Class
bad
Term
Term
male
start
Sex
1
1
end
female
5
5
any
20
20
17

18. 蟻コロニー最適化

最も“質の高い”経路を歩いた蟻に注目


フェロモン値の更新
結果：貯金が5万円以上20万未満の男はダメ
Class
bad
最も質の高い
経路とする．
Term
Term
male
start
Sex
1
1
end
female
5
5
any
20
20
18