SlideShare ist ein Scribd-Unternehmen logo
1 von 10
3.2 バイアス-バリアンス分解 
大阪PRML読書会 
2014.09.28 
@florets1 
1
過学習を避けるとモデルの表現能力が限られてしまう 
2
損失関数をバイアスとバリアンスに分けて考える 
3
4
5
3.3 ベイズ線形回帰 
大阪PRML読書会 
2014.09.28 
@florets1 
6
7 
ちょっと復習 
この尤度関数を見ると,μについての二次形式の指数の形を 
取っている。よって,事前分布にガウス分布を選べば,この尤 
度関数の共役事前分布となる。なぜなら…
尤度関数p(t|w)はwの2次関数の指数であることに着目 
8
9 
共役事前分布はガウス分布 
事後分布もガウス分布
10 
事後分布の対数を取ると 
この事後分布をwに関して最大化することは 
正則化最小二乗法の結果と等価になる。

Weitere ähnliche Inhalte

Was ist angesagt?

PRML上巻勉強会 at 東京大学 資料 第4章4.3.1 〜 4.5.2
PRML上巻勉強会 at 東京大学 資料 第4章4.3.1 〜 4.5.2PRML上巻勉強会 at 東京大学 資料 第4章4.3.1 〜 4.5.2
PRML上巻勉強会 at 東京大学 資料 第4章4.3.1 〜 4.5.2Hiroyuki Kato
 
Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜Yuki Matsubara
 
C:\D Drive\Prml\プレゼン\パターン認識と機械学習2 4章 D0703
C:\D Drive\Prml\プレゼン\パターン認識と機械学習2 4章 D0703C:\D Drive\Prml\プレゼン\パターン認識と機械学習2 4章 D0703
C:\D Drive\Prml\プレゼン\パターン認識と機械学習2 4章 D0703Yoshinori Kabeya
 
PRML勉強会@長岡 第4章線形識別モデル
PRML勉強会@長岡 第4章線形識別モデルPRML勉強会@長岡 第4章線形識別モデル
PRML勉強会@長岡 第4章線形識別モデルShohei Okada
 
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)Itaru Otomaru
 
PRML ベイズロジスティック回帰
PRML ベイズロジスティック回帰PRML ベイズロジスティック回帰
PRML ベイズロジスティック回帰hagino 3000
 
Back propagation
Back propagationBack propagation
Back propagationT2C_
 
第五回統計学勉強会@東大駒場
第五回統計学勉強会@東大駒場第五回統計学勉強会@東大駒場
第五回統計学勉強会@東大駒場Daisuke Yoneoka
 
SLP研究会201902 正弦関数摂動 von Mises 分布 DNN の モード近似を用いた位相復元
SLP研究会201902 正弦関数摂動 von Mises 分布 DNN の  モード近似を用いた位相復元 SLP研究会201902 正弦関数摂動 von Mises 分布 DNN の  モード近似を用いた位相復元
SLP研究会201902 正弦関数摂動 von Mises 分布 DNN の モード近似を用いた位相復元 Shinnosuke Takamichi
 
ブートストラップ法とその周辺とR
ブートストラップ法とその周辺とRブートストラップ法とその周辺とR
ブートストラップ法とその周辺とRDaisuke Yoneoka
 
PRML輪読#3
PRML輪読#3PRML輪読#3
PRML輪読#3matsuolab
 
「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう
「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう 「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう
「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう Junpei Tsuji
 

Was ist angesagt? (20)

prml_titech_9.0-9.2
prml_titech_9.0-9.2prml_titech_9.0-9.2
prml_titech_9.0-9.2
 
PRML上巻勉強会 at 東京大学 資料 第4章4.3.1 〜 4.5.2
PRML上巻勉強会 at 東京大学 資料 第4章4.3.1 〜 4.5.2PRML上巻勉強会 at 東京大学 資料 第4章4.3.1 〜 4.5.2
PRML上巻勉強会 at 東京大学 資料 第4章4.3.1 〜 4.5.2
 
Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜Prml3.5 エビデンス近似〜
Prml3.5 エビデンス近似〜
 
PRML Chapter 5
PRML Chapter 5PRML Chapter 5
PRML Chapter 5
 
C:\D Drive\Prml\プレゼン\パターン認識と機械学習2 4章 D0703
C:\D Drive\Prml\プレゼン\パターン認識と機械学習2 4章 D0703C:\D Drive\Prml\プレゼン\パターン認識と機械学習2 4章 D0703
C:\D Drive\Prml\プレゼン\パターン認識と機械学習2 4章 D0703
 
PRML勉強会@長岡 第4章線形識別モデル
PRML勉強会@長岡 第4章線形識別モデルPRML勉強会@長岡 第4章線形識別モデル
PRML勉強会@長岡 第4章線形識別モデル
 
PRML4.3.3
PRML4.3.3PRML4.3.3
PRML4.3.3
 
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
 
PRML2.3.1-2.3.3
PRML2.3.1-2.3.3PRML2.3.1-2.3.3
PRML2.3.1-2.3.3
 
PRML ベイズロジスティック回帰
PRML ベイズロジスティック回帰PRML ベイズロジスティック回帰
PRML ベイズロジスティック回帰
 
Back propagation
Back propagationBack propagation
Back propagation
 
Prml 3 3.3
Prml 3 3.3Prml 3 3.3
Prml 3 3.3
 
PRML第3章_3.3-3.4
PRML第3章_3.3-3.4PRML第3章_3.3-3.4
PRML第3章_3.3-3.4
 
PRMLrevenge_3.3
PRMLrevenge_3.3PRMLrevenge_3.3
PRMLrevenge_3.3
 
第五回統計学勉強会@東大駒場
第五回統計学勉強会@東大駒場第五回統計学勉強会@東大駒場
第五回統計学勉強会@東大駒場
 
SLP研究会201902 正弦関数摂動 von Mises 分布 DNN の モード近似を用いた位相復元
SLP研究会201902 正弦関数摂動 von Mises 分布 DNN の  モード近似を用いた位相復元 SLP研究会201902 正弦関数摂動 von Mises 分布 DNN の  モード近似を用いた位相復元
SLP研究会201902 正弦関数摂動 von Mises 分布 DNN の モード近似を用いた位相復元
 
ブートストラップ法とその周辺とR
ブートストラップ法とその周辺とRブートストラップ法とその周辺とR
ブートストラップ法とその周辺とR
 
PRML輪読#3
PRML輪読#3PRML輪読#3
PRML輪読#3
 
W8PRML5.1-5.3
W8PRML5.1-5.3W8PRML5.1-5.3
W8PRML5.1-5.3
 
「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう
「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう 「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう
「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう
 

Mehr von florets1

Mad kobe.r14
Mad kobe.r14Mad kobe.r14
Mad kobe.r14florets1
 
Bra kobe.r12
Bra kobe.r12Bra kobe.r12
Bra kobe.r12florets1
 
Eic kobe.r9
Eic kobe.r9Eic kobe.r9
Eic kobe.r9florets1
 
Mle kobe.r8
Mle kobe.r8Mle kobe.r8
Mle kobe.r8florets1
 
Flang kkd1
Flang kkd1Flang kkd1
Flang kkd1florets1
 
Bgnd kobe.r5
Bgnd kobe.r5Bgnd kobe.r5
Bgnd kobe.r5florets1
 
Qsim kobe.r4
Qsim kobe.r4Qsim kobe.r4
Qsim kobe.r4florets1
 
Ciit kobe.r1
Ciit kobe.r1Ciit kobe.r1
Ciit kobe.r1florets1
 
Osaka prml reading_2.3
Osaka prml reading_2.3Osaka prml reading_2.3
Osaka prml reading_2.3florets1
 

Mehr von florets1 (9)

Mad kobe.r14
Mad kobe.r14Mad kobe.r14
Mad kobe.r14
 
Bra kobe.r12
Bra kobe.r12Bra kobe.r12
Bra kobe.r12
 
Eic kobe.r9
Eic kobe.r9Eic kobe.r9
Eic kobe.r9
 
Mle kobe.r8
Mle kobe.r8Mle kobe.r8
Mle kobe.r8
 
Flang kkd1
Flang kkd1Flang kkd1
Flang kkd1
 
Bgnd kobe.r5
Bgnd kobe.r5Bgnd kobe.r5
Bgnd kobe.r5
 
Qsim kobe.r4
Qsim kobe.r4Qsim kobe.r4
Qsim kobe.r4
 
Ciit kobe.r1
Ciit kobe.r1Ciit kobe.r1
Ciit kobe.r1
 
Osaka prml reading_2.3
Osaka prml reading_2.3Osaka prml reading_2.3
Osaka prml reading_2.3