Diese Präsentation wurde erfolgreich gemeldet.
Wir verwenden Ihre LinkedIn Profilangaben und Informationen zu Ihren Aktivitäten, um Anzeigen zu personalisieren und Ihnen relevantere Inhalte anzuzeigen. Sie können Ihre Anzeigeneinstellungen jederzeit ändern.

【CVPR 2019】Striking the Right Balance with Uncertainty

632 Aufrufe

Veröffentlicht am

cvpaper.challenge はコンピュータビジョン分野の今を映し、トレンドを創り出す挑戦です。論文読破・まとめ・アイディア考案・議論・実装・論文投稿に取り組み、あらゆる知識を共有しています。
http://xpaperchallenge.org/cv/

本資料は、CVPR 2019 網羅的サーベイの成果の一部で、1論文を精読してプレゼンテーション形式でまとめております。論文サマリは下記からご確認頂けます。
http://xpaperchallenge.org/cv/survey/cvpr2019_summaries/listall/

Veröffentlicht in: Technologie
  • Als Erste(r) kommentieren

【CVPR 2019】Striking the Right Balance with Uncertainty

  1. 1. Striking the Right Balance with Uncertainty (CVPR2019) Salman Khan, Munawar Hayat, Waqas Zamir, Jianbing Shen, Ling Shao (Inception Institute of Artificial Intelligence) 資料作成: @cfiken 1 http://xpaperchallenge.org/ 

  2. 2. どんなもの? 2 ● class imbalanced なタスクに対する新たな損失関数の提案 ● Bayesian Uncertainty Estimation を利用してクラス境界 に重み付け ● クラスごとの不確実性に加えてサンプルごとの不確実性も それぞれモデリング・取り入れている
  3. 3. スライドの構成 3 ● 背景 / 関連研究 ● 提案手法 ● 実験 ● まとめ
  4. 4. Class Imbalanced? 4 ● 実応用で避けられない大きな問題の1つ ● 例: ○ 顔認識 (大量の顔画像から、誰の顔か識別) ○ 医療画像 (正例が少ないケースが多い)
  5. 5. 様々なアプローチ 5 ● Data Augmentation ● Undersampling / Oversampling ● Cost-Sensitive Learning ● Metric Learning ● etc.
  6. 6. Cost-Sensitive Learning 6 ● 分類問題の Softmax Loss などを工夫することで Class Imbalanced 問題に対応したい ● 通常の Softmax Loss ここで、 が特徴ベクトル、 が各クラス j の代表ベクトル. より、次のようにもかける ● これにマージン をうまく加えることで、クラス間分散を 大きくしたい
  7. 7. 関連研究: Large-Margin Softmax Loss 7 ● Large-Margin Softmax Loss for Convolutional Neural Networks (ICML 2016) [2] ● マージン m 付き Softmax Loss
  8. 8. 関連研究: SphereFace 8 ● SphereFace: Deep Hypersphere Embedding for Face Recognition (CVPR2017) [3] ● 通常の Softmax Loss を正規化, cosine の形にし、マージ ン m を付加する ● 通常の Softmax Loss ● SphereFace クラス間分散により余裕を持つよう学習する
  9. 9. 提案手法 9 ● Bayesian Uncertainty Estimation でマージンを決める ● クラスの不確実性と、サンプルの不確実性を考慮 クラスの不確実性 サンプルの不確実性 点線が元の境界、実線が提案手法による境界
  10. 10. イメージ 10 ● Class-Level: 不確実性の高いクラスに大きいマージン ● Sample-Level: サンプルの分布の二次モーメントを考慮
  11. 11. 提案手法: 概要 11 ● マージン m を加えた Large-Margin Softmax Loss [2] ● 次のように変える ここで はクラス j の不確実性を、 はサンプル の 不確実性を表す.
  12. 12. クラスの不確実性の推定 12 ● Dropout のある Deep CNNs モデルを使用 ○ Dropout を含むネットワークはガウス過程に近似できる (Y. Gal and Z. Ghahramani, 2016)[4] ● アンサンブルによるモデル空間   から Dropout でネット ワーク  を N回サンプリング ○ ある入力   に対して N個の出力   が得られる ○ これについて1次モーメント、2次モーメントを推定
  13. 13. クラスの不確実性の推定 13 ● 求めた2次モーメントからクラスごとのマージンを決める ● マージン付き Softmax Loss のマージン (再掲) ● このマージン m を推定した不確実性 から決める
  14. 14. サンプルの不確実性の推定 14 ● クラス y のデータを誤分類する確率を考える、直接計算す るのは大変なので次を定義する (仮定: ) ● 誤分類となる確率 は次式を計算すれば良い ● これは標準正規分布に変換して誤差関数で計算できる
  15. 15. 提案手法まとめ 15 ● 不確実性を考慮した Softmax Loss は下記 ここで、 なお、トレーニング時は段階的に不確実性を導入する。
  16. 16. 実験 16 ● タスク別比較実験と Ablation Study, 既存手法と提案手法 の組み合わせ実験を実施 ○ Face Verification (LFW, YTF, AgeDB, CFP) ○ Skin Lesion Detection (DIL) ○ Digit Classification (imbalanced split of MNIST) ○ Attribute Prediction (CelebA) ○ Object Classification (Imbalanced-CIFAR10) ○ Ablation Study ○ Other Loss + Uncertainty ● ここでは一部(太字)を紹介
  17. 17. Face Verification (LFW, YTF) 17 ● 顔認識タスク ● 他のデータやアンサンブル モデルを使った手法, Metric 系など新しい損失関 数を使った手法, Imbalanced Learning のた めの手法それぞれと比較。 ● 既に accuracy では多くで saturate 気味ではあるが, その中でも高い性能に
  18. 18. Skin Lesion Detection (DIL) 18 ● 皮膚病変の検出タスク ● 1,300枚の画像に10クラス (もしくは5クラス) ● 各クラス12~331枚と Imbalanced ● 既存手法に比べて大きく向上 ○ 14~15% UP (絶対量)
  19. 19. Attribute Prediction (CelebA) 19 ● セレブ写真から Attribute 予測 ● 中央線より左が普通の手法, 右が Class Imbalanced タスクのための手 法, 一番右が提案手法 ● 下に行くほど Imbalanced なクラス ● Imbalanced なクラスなほどよい性能, 平均でも SOTA レベルに
  20. 20. Other Loss + Uncertainty (CIFAR10) 20 ● Imbalanced CIFAR10 にマージン系損失の既存手法を適用 ● 既存手法のマージン m を Uncertainty ベースのものに修正 ● 上記二種類を比較実験し、既存手法に Uncertainty を導入 することで性能向上を確認できた
  21. 21. まとめ 21 ● Bayesian Uncertainty Estimations のアプローチで Class Imbalanced タスクの損失関数を改善した ● 2種類の不確実性を取り扱った ○ Class-Level, Sample-Level ● 最終的な損失関数は次のようになった ● 各種データセットで SOTA に匹敵するスコアとなった
  22. 22. Reference 22 [1] Striking the Right Balance with Uncertainty, S. Khan et al., CVPR 2019, https://arxiv.org/abs/1901.07590 [2] Large-Margin Softmax Loss for Convolutional Neural Networks, W. Liu, ICML 2016, https://arxiv.org/abs/1612.02295 [3] SphereFace: Deep Hypersphere Embedding for Face Recognition, W. Liu, CVPR 2017, https://arxiv.org/abs/1704.08063 [4] Dropout as a bayesian approximation: Representing model uncertainty in deep learning, Y. Gal and Z. Ghahramani, ICML 2016, https://arxiv.org/abs/1506.02142

×