17. 2.3.1 条件付きガウス分布
条件付きガウス分布
p(x ∣x ) = N(x ∣μ ,Σ )
平均値
μ = μ +Σ Σ (x −μ )
分散
Σ =Σ −Σ Σ Σ
a b a a∣b aa
−1
a∣b a ab bb
−1
b b
a∣b aa ab bb
−1
ba
17
18. 部分行列の逆行列
部分行列A, B, C, Dで構成される行列の逆行列
=
ただし、シューア補行列﴾Schur complement matrix﴿Mは、
M = (A − BD C)
(
A
C
B
D
)
−1
(
M
−D CM−1
−MBD−1
D +D CMBD−1 −1 −1)
−1 −1
18
21. 2.3.4 ガウス分布の最尤推定
対数尤度関数
ln p(x∣μ, Σ) = − ln (2π) − ln ∣Σ∣ − (x − μ) Σ (x − μ)
μの導関数を0として解く(最尤推定による平均)
μ = x
Σの導関数を0として解く(最尤推定による分散)
Σ = (x −μ )(x −μ )
2
ND
2
N
2
1
n=1
∑
N
n
⊤ −1
n
ML
N
1
n=1
∑
N
n
ML
N
1
n=1
∑
N
n ML n ML
⊤
21
46. 密度推定法
ある D 次元ユークリッド空間中の未知の確率密度 p(x) から得ら
れる N 個の観測値から p(x) の値を推定する
データ点が領域 R 内にある確率を P とする時、二項分布が
鋭く尖るのに十分な K 個の点が R 内に存在する
K ⋍ NP
p(x) が領域 R 内でほぼ一定とみなせるほど十分に小さい
P ⋍ p(x)V
46