2019/02/08 Deep Learning JP: http://deeplearning.jp/seminar-2/

1. 1
DEEP LEARNING JP
[DL Papers]
http://deeplearning.jp/
“Deep Learning for Anomaly Detection: A Survey”

2. • ��D
– ����������������������
• ����������������������������������������������������������������������������
– �������������
• �����������������������������������������������
• �������
– �������������������������������R���������
�����Rha
2

3. Agenda
3

4. •
–
•
–
–
•
4

5. 5
深層学習異常検知に関わる多くの研
究まとめ論文があるが、１つのドメ
イン/領域に絞った上でのレビューが
多い。
数多くの深層学習異常検知手法が提
案されている。
この論文では広い産業適用での活用
状況をレビューと
手法の分類方法にサブカテゴリー
（ハイブリッド異常検知と１クラス
ニューラルネットワーク）を追加し、
手法を整理している。

6. 6

7. 7
異常とは？
普通とは違う、逸脱した値、外れ値。N1, N2は大多
数の観測値の集合であり、正常と考えられる。O1,
O2, O3は少ない集合であり、大部分と乖離している。
異常値と考えられる。
新規性とは？
新しい傾向や今まで観測していないパターン。

8. 8
単一異常
多くの場合これに当てはまる。ラン
ダムに発生し、特段理由もない場合
もある。
文脈/条件異常
正常状態の文脈と行動・パターンを
考慮した上で、乖離が見られる場合。
集団/グループ異常
正常の集団から乖離した単体の異常
集合
クレジットカード取引の例：
他に比べて大きな乖離
温度の例：
時系列的な観点でパターンがあるよ
うに見える。その上で、6月付近でパ
ターンを無視した乖離
不正クレジットカード利用の例
MISCの異常が1件だけであれば異常と
はみなされないが、連続的に$75の取
引があり、異常の候補となる

9. •
•
•
9

10. 10

11. 11
教師あり
深層異常検知
半教師あり
深層異常検知
教師なし
深層異常検知
ハイブリッド
深層異常検知
One Class ニュー
ラルネットワーク
•
教師情報の有無に
よる分類
訓練目的による
分類

12. •
–
–
–
•
–
–
12

13. •
–
–
–
•
–
–
13

14. • ��
– �������������������
���
– ������������������������
�������������������������
��������������
– �������������������
����������������
• ��
– �������������������
�������������������
�������������������
���
– ����������������������
������������������� 14

15. One-Class (OC-NN)
• �������������������������������������������������
– ������������������������a���
– ����������������a������������������������
��a��������a���
– ��������������������������a��������������
��������������a�������������������������
��a���
– �����������������������������������
������������
• ������������������������������������������������
– ���������������a�������������������������
������������������������������
– �������������a���������������������
�a�����������
15

16. • ��
– �������������������C������������C��
��
– ���������������C��������
– �����I������C���������I��������������������C
����������������������
• ��
– ��������������������C�����������
– ������������
– �������������I��C������������������
������������
16

17. /
メメリリッットト デデメメリリッットト
教師あり深層異常検知 • 半教師ありや教師なしに比べ性能が良い
傾向がある
• テスト予測の処理が早い（訓練済みのモ
デルに対して比較するだけ）
• 分類するクラスの正確な教師情報が必要
（異常検知では手に入りにくい）
• 特徴量があまりに高次元で、非線形の場
合は正確に分類できない場合がある
半教師あり深層異常検知 • GANがかなり少ないデータでも半教師あ
りで成果を上げている
• 教師情報を利用することで教師なしに比
べ性能がかなり向上する
• 過学習となりやすい
ハイブリッド深層異常検知 • 高次元のデータを扱う際に、”次元の呪
い”に陥るリスクを削減できる
• 従来モデルは次元削減後のデータを扱う
ので、スケールしやすく、計算的効率も
良い
• 異常検知のために特徴量抽出した情報で
はなく、一般的な特徴量表現情報を用い
るので最初の選択肢とはなりにくい
１クラスニューラルネットワーク異常検知 • 高次元データでは訓練時間が長くなる
教師無し深層異常検知 • アノテートがいらないので、コストがか
からない
• 複雑で高次元の場合、特徴量を学習する
のが難しい場合がある
• Autoencoderなど次元圧縮系の手法は良い
結果を得るためにチューニングが必要
• ノイズに弱い
• 教師ありや半教師ありに比べて精度が下
がる
17

18. •
–
•
–
•
–
18

19. 19

20. •
–
–
–
–
–
–
–
–
–
–
20
•
–
–
–

21. •
–
–
•
–
•
–
–
–
•
–
–
•
–
•
–
21

22. •
–
–
•
–
•
•
–
•
•
•
–
•
•
•
22

23. •
–
–
•
–
–
–
23

24. •
–
•
–
–
24

25. •
–
–
•
–
25

26. •
–
–
–
•
–
–
26

27. IoT
•
–
–
•
–
•
–
27

28. •
–
–
–
–
•
–
28

29. • ��
– �����������������������
– �������������������������������
����IL��
• ��
– ��������������
– ����������������������
– ����������������IL��������
���������
• �
– �����������������������
• ����V�������������������������
��������
– �������������������������������������������������
����������������������������������������
�����������
• ���������������������������
������L������������������
• ������������������L��
29

30. •
–
•
–
–
•
30

31. 31

32. • �������������
– �����������������������������������������
������
– �����������������������������������
��
– ����������������������������������������������������
• �����������L���������������������������������
����������������������LOC
• ��������������
– �������������������������������������
– �����������������������������������������������������������������������
���� ������������������������������
• �����������������������������������������������
������������L�����C 32

33. •
–
–
•
•
–
–
–
33

34. •
•
•
•
•
•
34

35. 35