Suche senden
Hochladen
パターン認識 08 09 k-近傍法 lvq
•
9 gefällt mir
•
8,983 views
S
sleipnir002
Folgen
Technologie
Bildung
Melden
Teilen
Melden
Teilen
1 von 27
Jetzt herunterladen
Downloaden Sie, um offline zu lesen
Empfohlen
パターン認識第9章 学習ベクトル量子化
パターン認識第9章 学習ベクトル量子化
Miyoshi Yuya
レプリカ交換モンテカルロ法で乱数の生成
レプリカ交換モンテカルロ法で乱数の生成
Nagi Teramo
PRML上巻勉強会 at 東京大学 資料 第1章後半
PRML上巻勉強会 at 東京大学 資料 第1章後半
Ohsawa Goodfellow
Stochastic Variational Inference
Stochastic Variational Inference
Kaede Hayashi
Chapter11.2
Chapter11.2
Takuya Minagawa
fastTextの実装を見てみた
fastTextの実装を見てみた
Yoshihiko Shiraki
Graph convolution (スペクトルアプローチ)
Graph convolution (スペクトルアプローチ)
yukihiro domae
Prml 1.3~1.6 ver3
Prml 1.3~1.6 ver3
Toshihiko Iio
Empfohlen
パターン認識第9章 学習ベクトル量子化
パターン認識第9章 学習ベクトル量子化
Miyoshi Yuya
レプリカ交換モンテカルロ法で乱数の生成
レプリカ交換モンテカルロ法で乱数の生成
Nagi Teramo
PRML上巻勉強会 at 東京大学 資料 第1章後半
PRML上巻勉強会 at 東京大学 資料 第1章後半
Ohsawa Goodfellow
Stochastic Variational Inference
Stochastic Variational Inference
Kaede Hayashi
Chapter11.2
Chapter11.2
Takuya Minagawa
fastTextの実装を見てみた
fastTextの実装を見てみた
Yoshihiko Shiraki
Graph convolution (スペクトルアプローチ)
Graph convolution (スペクトルアプローチ)
yukihiro domae
Prml 1.3~1.6 ver3
Prml 1.3~1.6 ver3
Toshihiko Iio
PRML輪読#11
PRML輪読#11
matsuolab
PRMLの線形回帰モデル(線形基底関数モデル)
PRMLの線形回帰モデル(線形基底関数モデル)
Yasunori Ozaki
スパースモデリング入門
スパースモデリング入門
Hideo Terada
coordinate descent 法について
coordinate descent 法について
京都大学大学院情報学研究科数理工学専攻
2014 3 13(テンソル分解の基礎)
2014 3 13(テンソル分解の基礎)
Tatsuya Yokota
StanとRでベイズ統計モデリング読書会(Osaka.stan) 第6章
StanとRでベイズ統計モデリング読書会(Osaka.stan) 第6章
Shushi Namba
20130716 はじパタ3章前半 ベイズの識別規則
20130716 はじパタ3章前半 ベイズの識別規則
koba cky
トピックモデルによる統計的潜在意味解析読書会 3.7 評価方法 - 3.9 モデル選択 #トピ本
トピックモデルによる統計的潜在意味解析読書会 3.7 評価方法 - 3.9 モデル選択 #トピ本
hoxo_m
Juliaで並列計算
Juliaで並列計算
Shintaro Fukushima
PRML上巻勉強会 at 東京大学 資料 第1章前半
PRML上巻勉強会 at 東京大学 資料 第1章前半
Ohsawa Goodfellow
冗長変換とその画像復元応用
冗長変換とその画像復元応用
Shogo Muramatsu
あなたの心にBridgeSampling
あなたの心にBridgeSampling
daiki hojo
スパースモデリング
スパースモデリング
harapon
Optimizer入門&最新動向
Optimizer入門&最新動向
Motokawa Tetsuya
パターン認識と機械学習(PRML)第2章 確率分布 2.3 ガウス分布
パターン認識と機械学習(PRML)第2章 確率分布 2.3 ガウス分布
Nagayoshi Yamashita
マルコフ連鎖モンテカルロ法入門-2
マルコフ連鎖モンテカルロ法入門-2
Nagi Teramo
ノンパラベイズ入門の入門
ノンパラベイズ入門の入門
Shuyo Nakatani
PRML輪読#14
PRML輪読#14
matsuolab
異常検知と変化検知 9章 部分空間法による変化点検知
異常検知と変化検知 9章 部分空間法による変化点検知
hagino 3000
ディープボルツマンマシン入門
ディープボルツマンマシン入門
Saya Katafuchi
パターン認識02 k平均法ver2.0
パターン認識02 k平均法ver2.0
sleipnir002
はじめてのパターン認識 第5章 k最近傍法(k_nn法)
はじめてのパターン認識 第5章 k最近傍法(k_nn法)
Motoya Wakiyama
Weitere ähnliche Inhalte
Was ist angesagt?
PRML輪読#11
PRML輪読#11
matsuolab
PRMLの線形回帰モデル(線形基底関数モデル)
PRMLの線形回帰モデル(線形基底関数モデル)
Yasunori Ozaki
スパースモデリング入門
スパースモデリング入門
Hideo Terada
coordinate descent 法について
coordinate descent 法について
京都大学大学院情報学研究科数理工学専攻
2014 3 13(テンソル分解の基礎)
2014 3 13(テンソル分解の基礎)
Tatsuya Yokota
StanとRでベイズ統計モデリング読書会(Osaka.stan) 第6章
StanとRでベイズ統計モデリング読書会(Osaka.stan) 第6章
Shushi Namba
20130716 はじパタ3章前半 ベイズの識別規則
20130716 はじパタ3章前半 ベイズの識別規則
koba cky
トピックモデルによる統計的潜在意味解析読書会 3.7 評価方法 - 3.9 モデル選択 #トピ本
トピックモデルによる統計的潜在意味解析読書会 3.7 評価方法 - 3.9 モデル選択 #トピ本
hoxo_m
Juliaで並列計算
Juliaで並列計算
Shintaro Fukushima
PRML上巻勉強会 at 東京大学 資料 第1章前半
PRML上巻勉強会 at 東京大学 資料 第1章前半
Ohsawa Goodfellow
冗長変換とその画像復元応用
冗長変換とその画像復元応用
Shogo Muramatsu
あなたの心にBridgeSampling
あなたの心にBridgeSampling
daiki hojo
スパースモデリング
スパースモデリング
harapon
Optimizer入門&最新動向
Optimizer入門&最新動向
Motokawa Tetsuya
パターン認識と機械学習(PRML)第2章 確率分布 2.3 ガウス分布
パターン認識と機械学習(PRML)第2章 確率分布 2.3 ガウス分布
Nagayoshi Yamashita
マルコフ連鎖モンテカルロ法入門-2
マルコフ連鎖モンテカルロ法入門-2
Nagi Teramo
ノンパラベイズ入門の入門
ノンパラベイズ入門の入門
Shuyo Nakatani
PRML輪読#14
PRML輪読#14
matsuolab
異常検知と変化検知 9章 部分空間法による変化点検知
異常検知と変化検知 9章 部分空間法による変化点検知
hagino 3000
ディープボルツマンマシン入門
ディープボルツマンマシン入門
Saya Katafuchi
Was ist angesagt?
(20)
PRML輪読#11
PRML輪読#11
PRMLの線形回帰モデル(線形基底関数モデル)
PRMLの線形回帰モデル(線形基底関数モデル)
スパースモデリング入門
スパースモデリング入門
coordinate descent 法について
coordinate descent 法について
2014 3 13(テンソル分解の基礎)
2014 3 13(テンソル分解の基礎)
StanとRでベイズ統計モデリング読書会(Osaka.stan) 第6章
StanとRでベイズ統計モデリング読書会(Osaka.stan) 第6章
20130716 はじパタ3章前半 ベイズの識別規則
20130716 はじパタ3章前半 ベイズの識別規則
トピックモデルによる統計的潜在意味解析読書会 3.7 評価方法 - 3.9 モデル選択 #トピ本
トピックモデルによる統計的潜在意味解析読書会 3.7 評価方法 - 3.9 モデル選択 #トピ本
Juliaで並列計算
Juliaで並列計算
PRML上巻勉強会 at 東京大学 資料 第1章前半
PRML上巻勉強会 at 東京大学 資料 第1章前半
冗長変換とその画像復元応用
冗長変換とその画像復元応用
あなたの心にBridgeSampling
あなたの心にBridgeSampling
スパースモデリング
スパースモデリング
Optimizer入門&最新動向
Optimizer入門&最新動向
パターン認識と機械学習(PRML)第2章 確率分布 2.3 ガウス分布
パターン認識と機械学習(PRML)第2章 確率分布 2.3 ガウス分布
マルコフ連鎖モンテカルロ法入門-2
マルコフ連鎖モンテカルロ法入門-2
ノンパラベイズ入門の入門
ノンパラベイズ入門の入門
PRML輪読#14
PRML輪読#14
異常検知と変化検知 9章 部分空間法による変化点検知
異常検知と変化検知 9章 部分空間法による変化点検知
ディープボルツマンマシン入門
ディープボルツマンマシン入門
Andere mochten auch
パターン認識02 k平均法ver2.0
パターン認識02 k平均法ver2.0
sleipnir002
はじめてのパターン認識 第5章 k最近傍法(k_nn法)
はじめてのパターン認識 第5章 k最近傍法(k_nn法)
Motoya Wakiyama
TSP and Geocoding on R
TSP and Geocoding on R
sleipnir002
パターン認識 第01章-判別能力の評価
パターン認識 第01章-判別能力の評価
sleipnir002
パターン認識 04 混合正規分布
パターン認識 04 混合正規分布
sleipnir002
animation1.0
animation1.0
sleipnir002
Japan.r 2データベース
Japan.r 2データベース
sleipnir002
How to use animation packages in R(Japanese)
How to use animation packages in R(Japanese)
sleipnir002
パターン認識 05 ロジスティック回帰
パターン認識 05 ロジスティック回帰
sleipnir002
Tokyor16
Tokyor16
Daisuke Ichikawa
はじパタLT2
はじパタLT2
Tadayuki Onishi
Rデバッグあれこれ
Rデバッグあれこれ
Takeshi Arabiki
異常行動検出入門 – 行動データ時系列のデータマイニング –
異常行動検出入門 – 行動データ時系列のデータマイニング –
Yohei Sato
エクセルで統計分析 統計プログラムHADについて
エクセルで統計分析 統計プログラムHADについて
Hiroshi Shimizu
Tokyor18
Tokyor18
Daisuke Ichikawa
2ch
2ch
Atsushi Hayakawa
TokyoWebmining統計学部 第1回
TokyoWebmining統計学部 第1回
Issei Kurahashi
Tokyo Webmining #12 Hapyrus
Tokyo Webmining #12 Hapyrus
Koichi Fujikawa
Tokyor17
Tokyor17
Daisuke Ichikawa
サーバ異常検知入門
サーバ異常検知入門
mangantempy
Andere mochten auch
(20)
パターン認識02 k平均法ver2.0
パターン認識02 k平均法ver2.0
はじめてのパターン認識 第5章 k最近傍法(k_nn法)
はじめてのパターン認識 第5章 k最近傍法(k_nn法)
TSP and Geocoding on R
TSP and Geocoding on R
パターン認識 第01章-判別能力の評価
パターン認識 第01章-判別能力の評価
パターン認識 04 混合正規分布
パターン認識 04 混合正規分布
animation1.0
animation1.0
Japan.r 2データベース
Japan.r 2データベース
How to use animation packages in R(Japanese)
How to use animation packages in R(Japanese)
パターン認識 05 ロジスティック回帰
パターン認識 05 ロジスティック回帰
Tokyor16
Tokyor16
はじパタLT2
はじパタLT2
Rデバッグあれこれ
Rデバッグあれこれ
異常行動検出入門 – 行動データ時系列のデータマイニング –
異常行動検出入門 – 行動データ時系列のデータマイニング –
エクセルで統計分析 統計プログラムHADについて
エクセルで統計分析 統計プログラムHADについて
Tokyor18
Tokyor18
2ch
2ch
TokyoWebmining統計学部 第1回
TokyoWebmining統計学部 第1回
Tokyo Webmining #12 Hapyrus
Tokyo Webmining #12 Hapyrus
Tokyor17
Tokyor17
サーバ異常検知入門
サーバ異常検知入門
Ähnlich wie パターン認識 08 09 k-近傍法 lvq
東京都市大学 データ解析入門 8 クラスタリングと分類分析 1
東京都市大学 データ解析入門 8 クラスタリングと分類分析 1
hirokazutanaka
bigdata2012ml okanohara
bigdata2012ml okanohara
Preferred Networks
Knn発表資料(R)
Knn発表資料(R)
Sora Kubota
"Puzzle-Based Automatic Testing: Bringing Humans into the Loop by Solving Puz...
"Puzzle-Based Automatic Testing: Bringing Humans into the Loop by Solving Puz...
nkazuki
各言語の k-means 比較
各言語の k-means 比較
y-uti
型プロファイラ:抽象解釈に基づくRuby 3の静的解析
型プロファイラ:抽象解釈に基づくRuby 3の静的解析
mametter
東京都市大学 データ解析入門 10 ニューラルネットワークと深層学習 1
東京都市大学 データ解析入門 10 ニューラルネットワークと深層学習 1
hirokazutanaka
PoisoningAttackSVM (ICMLreading2012)
PoisoningAttackSVM (ICMLreading2012)
Hidekazu Oiwa
行列およびテンソルデータに対する機械学習(数理助教の会 2011/11/28)
行列およびテンソルデータに対する機械学習(数理助教の会 2011/11/28)
ryotat
[DL輪読会]GQNと関連研究,世界モデルとの関係について
[DL輪読会]GQNと関連研究,世界モデルとの関係について
Deep Learning JP
PRML輪読#3
PRML輪読#3
matsuolab
Jokyonokai130531
Jokyonokai130531
nwpmq516
猫でも分かるVariational AutoEncoder
猫でも分かるVariational AutoEncoder
Sho Tatsuno
Deep learning for_extreme_multi-label_text_classification
Deep learning for_extreme_multi-label_text_classification
Junya Kamura
6 Info Theory
6 Info Theory
melvincabatuan
Deep learning入門
Deep learning入門
magoroku Yamamoto
Rokko チュートリアル
Rokko チュートリアル
Computational Materials Science Initiative
Pythonで体験する深層学習 5章
Pythonで体験する深層学習 5章
孝好 飯塚
Collaborative Ranking: A Case Study on Entity Ranking (EMNLP2011読み会)
Collaborative Ranking: A Case Study on Entity Ranking (EMNLP2011読み会)
sleepy_yoshi
第9回 配信講義 計算科学技術特論A(2021)
第9回 配信講義 計算科学技術特論A(2021)
RCCSRENKEI
Ähnlich wie パターン認識 08 09 k-近傍法 lvq
(20)
東京都市大学 データ解析入門 8 クラスタリングと分類分析 1
東京都市大学 データ解析入門 8 クラスタリングと分類分析 1
bigdata2012ml okanohara
bigdata2012ml okanohara
Knn発表資料(R)
Knn発表資料(R)
"Puzzle-Based Automatic Testing: Bringing Humans into the Loop by Solving Puz...
"Puzzle-Based Automatic Testing: Bringing Humans into the Loop by Solving Puz...
各言語の k-means 比較
各言語の k-means 比較
型プロファイラ:抽象解釈に基づくRuby 3の静的解析
型プロファイラ:抽象解釈に基づくRuby 3の静的解析
東京都市大学 データ解析入門 10 ニューラルネットワークと深層学習 1
東京都市大学 データ解析入門 10 ニューラルネットワークと深層学習 1
PoisoningAttackSVM (ICMLreading2012)
PoisoningAttackSVM (ICMLreading2012)
行列およびテンソルデータに対する機械学習(数理助教の会 2011/11/28)
行列およびテンソルデータに対する機械学習(数理助教の会 2011/11/28)
[DL輪読会]GQNと関連研究,世界モデルとの関係について
[DL輪読会]GQNと関連研究,世界モデルとの関係について
PRML輪読#3
PRML輪読#3
Jokyonokai130531
Jokyonokai130531
猫でも分かるVariational AutoEncoder
猫でも分かるVariational AutoEncoder
Deep learning for_extreme_multi-label_text_classification
Deep learning for_extreme_multi-label_text_classification
6 Info Theory
6 Info Theory
Deep learning入門
Deep learning入門
Rokko チュートリアル
Rokko チュートリアル
Pythonで体験する深層学習 5章
Pythonで体験する深層学習 5章
Collaborative Ranking: A Case Study on Entity Ranking (EMNLP2011読み会)
Collaborative Ranking: A Case Study on Entity Ranking (EMNLP2011読み会)
第9回 配信講義 計算科学技術特論A(2021)
第9回 配信講義 計算科学技術特論A(2021)
パターン認識 08 09 k-近傍法 lvq
1.
Rで学ぶデータサイエンス
5パターン認識 第8章 k-近傍法 第9章 学習ベクトル量子化 2011/07/** TwitterID:sleipnir002
2.
R一人勉強会のご紹介
Rで学ぶデータサイエンス 5パターン認識 (著)金森 敬文, 竹之内 高志, 村田 昇, 金 明哲 共立出版 今ならデモスクリプトがダウンロードできる! http://www.kyoritsu- pub.co.jp/service/service.html#019256 第1章 判別能力の評価 Done 第2章 k-平均法 Done 第3章 階層的クラスタリング 第4章 混合正規分布モデル Done 第5章 判別分析 おもしろネタ募集中 第6章 ロジスティック回帰 第7章 密度推定 第8章 k-近傍法 ←イマココ! 第9章 学習ベクトル量子化 ←イマココ! 第10章 決定木 第11章 サポートベクターマシン 第12章 正則化とパス追跡アルゴリズム 第13章 ミニマックス確率マシン 第14章 集団学習 さぁ、今すぐAmazonでクリック!! 第15章 2値判別から多値判別へ
3.
前回のあらすじ • 前回は第3回として混合正規分布とEMアルゴリ
ズムによるクラスタリングを学んだよ! • 混合正規分布モデルをEMアルゴリズムを使って データから推定、事後確率を使ってクラスタリン グすることができる。
4.
第8、9章の目的
K-近傍法で教師ありクラス分類 学習ベクトル量子化で教師ありクラス分類 • k-近傍法 • 学習ベクトル量子化
5.
k-近傍法について
6.
k-近傍法のアルゴリズム
K-近傍法とは近くのデータで多数決を取る方法 e.g.3-近傍法の場合 • テストデータの近くに ある学習データの多 数決でテストデータ テストデータ のラベルを予測する。 • 多クラス変数でも簡 3近傍のトレーニングデータ 単に予測できる。
7.
Rでk-近傍法を実装する
8.
Rでk-近傍法を実装するknn knn(train, test,
cl, k = 1, l = 0, prob = FALSE, use.all = TRUE) • Classパッケージ • 因子型ベクトルを返す。
9.
Vehicleデータセット • mlbenchパッケージ • 画像のシルエットから車種を予測する。 •
4つの車種の写真から形状特徴を抽出し、18次元の ベクトルに変換したもの • n=846,m=18,クラス数=4 • 今回は1:200までをテストデータ、残りを学習データと する。 http://archive.ics.uci.edu/ml/datasets/Statlog+%28Vehicle+Silhouettes%29
10.
k-近傍法で予測する library(class)
Package class library(mlbench) data(Vehicle) idtest<-seq(1,200) idtrain<-seq(201,nrow(Vehicle)) xtest<-Vehicle[idtest, 1:18] テストデータの作成 ytrue<-Vehicle[idtest, 19] xtrain<-Vehicle[idtrain, 1:18] トレーニングデータの作 ytrain<-Vehicle[idtrain, 19] 成 ypred.knn<-knn(xtrain, xtest, ytrain, k=3) 3-近傍法でで予測する tab.knn<-table(ypred.knn, ytrue) クロス集計で結果を評 tab.knn sum(diag(tab.knn))/length(xtest[, 1]) 価する。
11.
結果
12.
学習ベクトル量子化(LVQ)について
13.
LVQによる教師あり
多クラス判別問題 • 逐次型学習でコードブックベクトル(=モデ ル)を学習する。 • SOMの教師あり版、k-平均法とk-近傍法のハ イブリッドみたいなもの – 学習:コードブックベクトルで空間をボロロイ分割 (k-平均法) – 予測:コードブックベクトルでテストデータのラベ ルk-近傍法で予測する。
14.
LVQで判別問題を解く流れ 入力データとラベル
LVQアルゴリズム 予測結果 初期コードブックベクトル x,y 初期コードブックベクトル 学習されたコードブックベクトル テストデータ
15.
LVQアルゴリズム色々 • LVQ1 • LVQ2.1 •
LVQ3
16.
LVQ1アルゴリズム(1) ある時点tでの代表ベクトルm(t)がある。
17.
LVQ1アルゴリズム(2) そこに学習データxが入力される
18.
LVQ1アルゴリズム(3) ⅰ)学習データxのラベルyと、その最短近傍の代表ベクトルmc(t)のラベルが
等しい場合⇒代表ベクトルmi(t)を学習データxに近づける。 mc (t 1) mc (t ) (t )( x(t ) mc (t ))
19.
LVQ1アルゴリズム(4) ⅰ)学習データxのラベルyと、その最短近傍の代表ベクトルmc(t)のラベルが
等しくない場合⇒代表ベクトルmc(t)を学習データxから遠ざける。 mc (t 1) mc (t ) (t )( x(t ) mc (t ))
20.
LVQ1アルゴリズム(5) 2~5の過程を学習データの数だけ繰り返す。
21.
LVQの注意点 • 逐次型学習なので、初期代表ベクトルに結果
が依存する。 • 学習データによる学習の順番にも依存する。
22.
RでLVQを実装する
23.
LVQで判別問題を解く 入力データとラベル
LVQアルゴリズム=学習 予測結果 初期コードブックベクトル lvq1 lvqinit x,y lvqtest 初期コードブックベクトル 学習されたコードブックベクトル テストデータ
24.
ClassパッケージのLVQ関数
初期コードブックを生成(k-近傍法でサンプリング) lvqinit(x, cl, size, prior, k = 5) LVQアルゴリズムでコードブックを生成 lvq1(x, cl, codebk, niter = 100 * nrow(codebk$x), alpha = 0.03) コードブックを用いてテスト用にラベルを与える lvqtest(codebk, test) • Classパッケージ
25.
LVQ1で予測する library(class)
Package class library(mlbench) data(Vehicle) idtest<-seq(1,200) idtrain<-seq(201,nrow(Vehicle)) xtest<-Vehicle[idtest, 1:18] ytrue<-Vehicle[idtest, 19] テストデータの作成 xtrain<-Vehicle[idtrain, 1:18] ytrain<-Vehicle[idtrain, 19] 初期コードブックベクト cdinit<-lvqinit(xtrain, ytrain,10) ルの生成 cdvec<-lvq1(xtrain, ytrain, cdinit) ypred.lvq1<-lvqtest(cdvec, xtest) LVQ1でコードブックベク tab.lvq1<-table(ypred.lvq1, ytrue) トルの生成 tab.lvq1 sum(diag(tab.lvq1))/length(xtest[, 1]) クロス集計で結果を評 価する。
26.
結果
27.
まとめ • k-近傍法という多数決による多クラス判別法
を勉強したよ。 • 学習ベクトル量子化というk-近傍法とk-平均 法を混ぜたような学習法を学んだよ。
Jetzt herunterladen