3. 目次
● Active Learning
● 提案手法
○ Variational adversarial acquisition function
○ Semi-supervised framework for incorporating unlabeled data
○ Co-training for full model
● 全体のアルゴリズム
● 実験
○ 実験結果
● 所感
4. Active Learning
● どのようなデータからモデルが学ぶべきかを選択できるという設定で, より少
ないラベル付き学習データで高精度を出せるようにする手法
○ ラベルなしデータの中でラベル付けされるべきデータを選び, ラベル付け後学習データへ加えて
いく
● 全てのデータへのラベル付けがコスト面などから難しい場面など
Image from
http://burrsettles.com/pub/settles.a
ctivelearning.pdf
10. Variational adversarial acquisition function
Encoder and Decoder(Generator) Loss
● trd_VAAL: β-VAE Loss
● adv_VAAL: VAEのEncoderはラベルあり・無しデータを同じような確率分布に
なるように潜在空間に落とし込もうとする
11. Variational adversarial acquisition function
Discriminator (Sampler) Loss
● S(z): 潜在変数がラベルありデータから得られているとする確信度を表す
○ この値が低いとラベル無しデータであると考えられ,ラベル有りデータ空間とは異なるものと
みなす
○ ラベル付けする際の基準として用いる
● S_VAAL: Discriminatorは与えられた潜在変数がラベルありデータから得られた
ものなのかかラベル無しデータから得られたものなのかを判別する
12. Semi-supervised framework for incorporating unlabeled data
● Decoderを半教師ありのGeneratorとして活用
○ ラベル無しのデータ構造についての情報を目的のクラス分類器がより得られる
■ Generatorによるデータ拡張の効果
● BiGAN構造を採用
○ https://arxiv.org/pdf/1605.09782.pdf
13. Semi-supervised framework for incorporating unlabeled data
ロス関数
● C(x)が精度を上げる対象のクラス分類器
● Discriminatorとネットワーク構造を共有している部分があり,クラス分類器は
より良い表現を獲得(?)
14. Co-training of full model
● Acquisition functionとconditional GANのEncoder, Decoder(Generator)はネット
ワーク共通
19. 実験結果
どの要素が効いているのか?
● No active learning
○ samplerとEncoderへのadversarial部分を削除,randomにラベル付けを行う
● No encoder
○ Encoderを削除,Bayesian Active Learning by Disagreementをもとにラベル付けを行う
● No co-training
○ Variational Adversarial Active Learning(VAAL)をもとにラベル付け,事前に訓練済みのGANで画
像生成しデータ拡張
● Random
○ ランダムにラベル付け,ラベル有りデータでクラス分類器を学習