確率理論の基礎

1. 確率率率理理論論の復復習 I
1
離離散・連続確率率率分布
http://www.slideshare.net/ShinjiNakaoka
授業レクチャーノート

2. ⽬目次
2
⽬目標
前期の講義に必要な確率率率論論、統計学の基本知識識復復習
講義内容
離離散確率率率分布の復復習
連続確率率率分布の復復習

3. 事象と確率率率
3
事象
和事象
積事象
余事象
排反事象
確率率率 (関数)
標本空間 Ω 上の任意の事象 A に対して定義される実数値関数
(i)
(ii)
(iii) 互いに排反な事象に対し
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.1-‐‑‒2

4. 条件付き確率率率
4
ある事象 B が与えられたときの事象 A の条件付き確率率率
定義
同値な表現
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.2-‐‑‒3

5. Bayes
の定理理
5
定義 (事前確率率率)
事象
仮定1 (背反)
仮定2
このとき、以下の等式が成⽴立立する。
事後確率率率 A をデータと考えれば、ベイズの定理理を
ベースにした統計学が考えられる
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.4-‐‑‒5

6. 独⽴立立性と独⽴立立試⾏行行
6
定義 (独⽴立立)
任意の事象 A, B に対して
ならば、事象 A, B は独⽴立立であると定義する。
より⼀一般的に、任意の に対して
ならば、事象 Ai は独⽴立立であると定義する。この事象は独⽴立立試⾏行行
あるいは繰り返し試⾏行行と呼ばれる。
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.5-‐‑‒6

7. 組み合わせと確率率率
7
標本空間 Ω 上の標本点が有限の場合、事象 A の確率率率は
全標本数
事象 A となる数
n 個から k 個を選ぶ組み合わせ (combination)
n 個から k 個の並べ⽅方: 順列列 (permutation)
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.6-‐‑‒13

8. 確率率率変数と確率率率
8
確率率率変数 X は離離散もしくは連続値をとる。
離離散確率率率変数 X に対して、確率率率関数 (probability mass function) を
と定義する。確率率率変数 X の分布関数は
と定義する。x → ∞ のとき、FX(∞)=1 となる。
例例：⼆二項分布
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.17-‐‑‒18

9. 期待値と分散
9
確率率率変数 X の期待値 (平均) を
によって定義する。新しい表記を⽤用いて (stieltjes 積分)
確率率率変数 Xn の期待値を n 次モーメントと呼ぶ：
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.19-‐‑‒22

10. 期待値と分散
10
確率率率変数 X の分散は、平均からの距離離に相当し
例例：⼆二項分布の平均と分散
平均：
分散：
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.19-‐‑‒22

11. 確率率率⺟母関数
11
確率率率変数 X の特性関数、モーメント関数を
と定義する。確率率率変数 X (離離散)の確率率率⺟母関数を
によって定義する。確率率率⺟母関数の計算により、平均や分散の計算が
システマティックに⾏行行うことができるようになる (分枝過程 etc)
(参考 Laplace 変換)
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.19-‐‑‒22

12. さまざまな分布
12
超幾何分布 (hypergeometric)
⾚赤⽟玉 n1 個、⿊黒⽟玉 n-‐‑‒n1 個⼊入った壺から、⾮非復復元抽出 (とったら元に戻
さない) によってランダムに⽟玉を取り出す試⾏行行を考える。このとき、
壺から r 個取り出したときに⾚赤⽟玉を k 個取り出す確率率率は、超幾何分布
に従うといわれる。その確率率率は
左図：⾚赤⽟玉 n1 =80 個、⿊黒⽟玉 n-‐‑‒n1 =20 個から
50
個⽟玉を取り出したとき、k
個の⾚赤⽟玉が得られた
確率率率をシミュレーションにより計算し、ヒストグラム
を表⽰示。平均値 40
あたりを中⼼心に分布
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.23-‐‑‒27

13. さまざまな分布
13
ベルヌーイ (Bernoulli) 試⾏行行
⾚赤⽟玉 n1 個、⿊黒⽟玉 n-‐‑‒n1 個⼊入った壺から、復復元抽出 (とったら元に戻
す) と、常に⾚赤⽟玉が出る確率率率 p=n1/n と⼀一定になる。⾚赤⽟玉＝成功、
⿊黒⽟玉＝失敗とする。ベルヌーイ試⾏行行を X=1 (成功)、X=0 (失敗)
をとる確率率率変数と考えれば、ベルヌーイ分布 (確率率率関数) は
左図：⾚赤⽟玉 p =0.2 とした場合に 1 がでる
Bernoulli
試⾏行行を 10000
万回シミュレーション
し、ヒストグラムを表⽰示。0
が約 8000
回、
1
が約 2000
回出現する。
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.23-‐‑‒27

14. さまざまな分布
14参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.23-‐‑‒27
⼆二項分布 (binomial)
確率率率 p で成功する Bernoulli 試⾏行行を n 回⾏行行ったときに k 回成功する
確率率率は、⼆二項分布に従うといわれる。その確率率率関数は
左図：⾚赤⽟玉 p =0.2 とした場合に 1 がでる
Bernoulli
試⾏行行を 10000
万回シミュレーション
し、成功した回数のヒストグラムを表⽰示。
確率率率分布関数は

15. さまざまな分布
15
幾何分布 (geometric)
成功確率率率を p とした場合のベルヌーイ試⾏行行において、初めて成功する
まで失敗する回数を X とすれば、X は幾何分布にしたがう。
左図：成功確率率率 p =0.2 とした場合の幾何分布
を 10000
万回シミュレーションし、ヒストグラム
を表⽰示。たとえば 20
回⽬目にはじめて成功する
確率率率は低く、4,5
回⽬目ではじめて成功する確率率率が
⾼高い。感染症は接触回数に依存して感染するかが
決まるため、ある感染症にかかる確率率率を計算する
際、幾何分布にしたがう確率率率イベントだと考えて
定式化することがある。
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.23-‐‑‒27

16. さまざまな分布
16
負の⼆二項分布 (negative binomial)
成功確率率率を p とした場合のベルヌーイ試⾏行行において、初めて r 回成功
するまでの失敗回数を X とすれば、X は負の⼆二項分布にしたがう。
恒等式
を⽤用いると、確率率率関数は
成功確率率率 p =0.2 、3 回成功するまでの失敗回数
を 10000
万回シミュレーション (左図)
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.23-‐‑‒27

17. Poisson
分布
17
Poisson 分布
Poisson 分布の確率率率関数は
⼆二項分布の極限として導出
平均・分散：
(平均・分散が等しくパラメーターに⼀一致)
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.23-‐‑‒27

18. 多変量量確率率率変数
18
⼆二変数以上の確率率率変数の場合まで拡張。分布関数は
確率率率変数 X, Y の同時確率率率分布 (joint distribution) と呼ばれる。
X の周辺分布 (marginal distribution)
X, Y の独⽴立立性
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.34-‐‑‒35

19. 多変量量確率率率変数
19参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.34-‐‑‒35
連続確率率率変数 X, Y の同時確率率率分布
連続確率率率変数 X, Y の同時確率率率密度度関数
連続確率率率変数 X の周辺 (marginal) 密度度関数

20. 条件付き分布
20参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.34-‐‑‒35
連続確率率率変数 X, Y に対して、条件つき密度度関数
および、条件つき密度度分布関数
連続確率率率変数 X, Y が独⽴立立であるとき

21. 多変量量確率率率変数
21
条件付き確率率率関数
条件付き分布
X の条件付き期待値および X の期待値
Y=y が与えられたときの
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.34-‐‑‒35

22. 期待値分散 (多変量量)
22
期待値の加法性
共分散 (Covariance)
分散の場合
相関係数 (correlation coefficient)
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.35-‐‑‒36

23. 連続分布
23
連続変数 X について、任意の区間 B に対して
であるような⾮非負関数 fX(x) が存在。fX(x) を確率率率密度度関数と呼ぶ。
確率率率密度度関数と dx の積
は、区間 (x,x+dx] にある確率率率となる。
確率率率変数 X の分布は
定義より
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.28-‐‑‒33

24. 期待値と分散
24
連続確率率率変数 X の期待値 (平均) を
によって定義する (参考：前回の講義は離離散確率率率変数の場合)。
連続確率率率変数 X の分散は
と定義する。
確率率率⺟母関数を定義することにより、連続確率率率変数の場合も平均や
分散の計算を⾏行行うことができる (詳細は省省略略)
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.28-‐‑‒33

25. さまざまな分布
25
指数分布(exponential)
確率率率変数 X の分布関数が
で表されるとき、X は指数分布に従うという。
確率率率変数 X の確率率率密度度関数は
左図は ƛ=1 の確率率率密度度関数
ATM の待ち時間
地震のマグニチュードの分布
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.28-‐‑‒33

26. さまざまな分布
26
正規分布(normal / Gauss)
確率率率変数 X の確率率率密度度分布関数が
で表されるとき、X は正規分布に従うという。
確率率率変数 X の平均・分散 (分布は省省略略)
左図は μ=1, σ=1 の確率率率密度度関数
例例) 多数 (視聴率率率など)、中⼼心極限定理理の収束分布
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.28-‐‑‒33

27. さまざまな分布
27
ガンマ分布(Gamma)
確率率率変数 X の確率率率密度度分布関数が
で表されるとき、X は Gamma 分布に従うという。
ここで Gamma 関数は
左図は ƛ=1, k=3 の確率率率密度度関数
例例) mRNA からタンパク質の⽣生成数
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.28-‐‑‒33

28. さまざまな分布
28
⼀一様分布 (uniform)
確率率率変数 X の確率率率分布関数が
で表されるとき、X は⼀一様分布に従うという。
左図は b=1, a=0 の確率率率密度度関数
関連) 擬似乱数など
確率率率変数 X の確率率率密度度関数は
参考：確率率率モデル⼊入⾨門 尾崎俊治著 朝倉書店 P.28-‐‑‒33