SlideShare ist ein Scribd-Unternehmen logo
1 von 31
前回の練習問題 ,[object Object],A B A C ABA D ACABAD 2 文字前 長さ1 4 文字前 長さ 3 6 文字前 長さ 6 符号語系列は (0, 0, A), (0, 0, B), (2, 1, C), (4, 3, D), (6, 6, *) ,[object Object],[object Object],A B A C ABA D ACABAD 2 文字前 長さ1 4 文字前 長さ 3 6 文字前 長さ 6
前回の練習問題 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
本日の講義 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
乱数とは ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
「無秩序さ」の定式化 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],( x   を出力する 最小のプログラム のサイズ)
コルモゴロフ複雑さの例(1) ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
コルモゴロフ複雑さの例(2) ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
コルモゴロフ複雑さと無秩序さ ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
コルモゴロフ的な乱数の定義 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
乱数の存在確率 ,[object Object],[object Object],[object Object],⇒  ほとんどすべての系列は圧縮不能(乱数である) ことを導ける 1 n –2 n –1 n サイズ n 未満のプログラムはすべて,長さ  n   の系列を出力 n+ α 長さ  n  未満の系列は,サイズ  n 以上のプログラムでしか作れない
乱数の計算可能性 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
擬似乱数 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
統計的検定 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
復習:確率,確率密度関数 ,[object Object],[object Object],[object Object],[object Object],[object Object],確率密度関数 晴 曇 雨 雪 0.3 0.4 0.2 0.1
確率密度関数について ,[object Object],[object Object],[object Object],= x y ここの面積 x  ->  最小値, y  ->  最大値とすると,面積=1
x 2 値の定義 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],n i ... 系列  a   において  C i   に属する値の個数 (カイ2乗値)
x 2 値の解釈 ,[object Object],[object Object],系列  a   が 理想的な系列に近ければ ... ⇒  分子部分は  0  に近づく ⇒  x 2   値も  0  に近づく
x 2 値の計算例 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
x 2 値の計算例(続) ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
x 2 値の評価 ,[object Object],[object Object],[object Object],[object Object],[object Object],自由度  2 自由度  4 自由度  6 x 2 O
x 2 値の比較 ,[object Object],[object Object],[object Object],理想系列では, x 2  値が  0  になる確率はきわめて小さい 観測系列の  x 2   値が  0 ⇒  理想系列では考えにくい振る舞い x 2  値の大小だけでなく,理想的な x 2 分布と比較することが重要 x 2 O 自由度  5
x 2 値検定の実施例 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
その他の統計的検定手法 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
擬似乱数生成アルゴリズムについて ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
線形合同法の性質について ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
線形合同法の問題点 ,[object Object],[object Object],[object Object],[object Object],X i +1  = 5 X i  + 1 mod 7  のとき ... 1 2 3 4 5 6 O 1 6 5 4 3 2 平面上の点を一個選んで ... という用途には使えない (初期値が 5 のとき)
M系列法 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],X i X i –1 X i – p X i – p +1 X i – p +2 結線 or 断線
M系列法について ,[object Object],[object Object],[object Object],[object Object],[object Object]
その他の擬似乱数生成法 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
まとめ ,[object Object],[object Object],[object Object],[object Object],[object Object]
練習問題 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

Weitere ähnliche Inhalte

Was ist angesagt?

低ランク行列補完のためのマトロイド理論
低ランク行列補完のためのマトロイド理論低ランク行列補完のためのマトロイド理論
低ランク行列補完のためのマトロイド理論
ryotat
 
パターン認識第9章 学習ベクトル量子化
パターン認識第9章 学習ベクトル量子化パターン認識第9章 学習ベクトル量子化
パターン認識第9章 学習ベクトル量子化
Miyoshi Yuya
 
パターン認識 08 09 k-近傍法 lvq
パターン認識 08 09 k-近傍法 lvqパターン認識 08 09 k-近傍法 lvq
パターン認識 08 09 k-近傍法 lvq
sleipnir002
 
パターン認識 05 ロジスティック回帰
パターン認識 05 ロジスティック回帰パターン認識 05 ロジスティック回帰
パターン認識 05 ロジスティック回帰
sleipnir002
 
130323 slide all
130323 slide all130323 slide all
130323 slide all
ikea0064
 
introductino to persistent homology and topological data analysis
introductino to persistent homology and topological data analysisintroductino to persistent homology and topological data analysis
introductino to persistent homology and topological data analysis
Tatsuki SHIMIZU
 
今さら聞けないカーネル法とサポートベクターマシン
今さら聞けないカーネル法とサポートベクターマシン今さら聞けないカーネル法とサポートベクターマシン
今さら聞けないカーネル法とサポートベクターマシン
Shinya Shimizu
 
Icml yomikai 07_16
Icml yomikai 07_16Icml yomikai 07_16
Icml yomikai 07_16
Yo Ehara
 

Was ist angesagt? (20)

クラシックな機械学習の入門 6. 最適化と学習アルゴリズム
クラシックな機械学習の入門  6. 最適化と学習アルゴリズムクラシックな機械学習の入門  6. 最適化と学習アルゴリズム
クラシックな機械学習の入門 6. 最適化と学習アルゴリズム
 
クラシックな機械学習の入門 3. 線形回帰および識別
クラシックな機械学習の入門 3. 線形回帰および識別クラシックな機械学習の入門 3. 線形回帰および識別
クラシックな機械学習の入門 3. 線形回帰および識別
 
低ランク行列補完のためのマトロイド理論
低ランク行列補完のためのマトロイド理論低ランク行列補完のためのマトロイド理論
低ランク行列補完のためのマトロイド理論
 
第4回MachineLearningのための数学塾資料(浅川)
第4回MachineLearningのための数学塾資料(浅川)第4回MachineLearningのための数学塾資料(浅川)
第4回MachineLearningのための数学塾資料(浅川)
 
パターン認識第9章 学習ベクトル量子化
パターン認識第9章 学習ベクトル量子化パターン認識第9章 学習ベクトル量子化
パターン認識第9章 学習ベクトル量子化
 
PRML chapter7
PRML chapter7PRML chapter7
PRML chapter7
 
Prml 1.3~1.6 ver3
Prml 1.3~1.6 ver3Prml 1.3~1.6 ver3
Prml 1.3~1.6 ver3
 
Jokyo20130218
Jokyo20130218Jokyo20130218
Jokyo20130218
 
パターン認識 08 09 k-近傍法 lvq
パターン認識 08 09 k-近傍法 lvqパターン認識 08 09 k-近傍法 lvq
パターン認識 08 09 k-近傍法 lvq
 
パターン認識 05 ロジスティック回帰
パターン認識 05 ロジスティック回帰パターン認識 05 ロジスティック回帰
パターン認識 05 ロジスティック回帰
 
2値分類・多クラス分類
2値分類・多クラス分類2値分類・多クラス分類
2値分類・多クラス分類
 
パターン認識と機械学習6章(カーネル法)
パターン認識と機械学習6章(カーネル法)パターン認識と機械学習6章(カーネル法)
パターン認識と機械学習6章(カーネル法)
 
Prml sec6
Prml sec6Prml sec6
Prml sec6
 
130323 slide all
130323 slide all130323 slide all
130323 slide all
 
introductino to persistent homology and topological data analysis
introductino to persistent homology and topological data analysisintroductino to persistent homology and topological data analysis
introductino to persistent homology and topological data analysis
 
今さら聞けないカーネル法とサポートベクターマシン
今さら聞けないカーネル法とサポートベクターマシン今さら聞けないカーネル法とサポートベクターマシン
今さら聞けないカーネル法とサポートベクターマシン
 
PRML 6.1章 カーネル法と双対表現
PRML 6.1章 カーネル法と双対表現PRML 6.1章 カーネル法と双対表現
PRML 6.1章 カーネル法と双対表現
 
Icml yomikai 07_16
Icml yomikai 07_16Icml yomikai 07_16
Icml yomikai 07_16
 
“Sliding right into disaster”の紹介
“Sliding right into disaster”の紹介“Sliding right into disaster”の紹介
“Sliding right into disaster”の紹介
 
コンピュータ先端ガイド2巻3章勉強会(SVM)
コンピュータ先端ガイド2巻3章勉強会(SVM)コンピュータ先端ガイド2巻3章勉強会(SVM)
コンピュータ先端ガイド2巻3章勉強会(SVM)
 

Andere mochten auch (8)

20120303165716564
2012030316571656420120303165716564
20120303165716564
 
Toxicidad in vitro (J. de Lapuente)
Toxicidad in vitro (J. de Lapuente)Toxicidad in vitro (J. de Lapuente)
Toxicidad in vitro (J. de Lapuente)
 
53011213089
5301121308953011213089
53011213089
 
Ponencia andalucia bio region valladolid
Ponencia andalucia bio region valladolidPonencia andalucia bio region valladolid
Ponencia andalucia bio region valladolid
 
Custos doa acidentes[1]
Custos doa acidentes[1]Custos doa acidentes[1]
Custos doa acidentes[1]
 
frutas
frutasfrutas
frutas
 
Dispomedicale
DispomedicaleDispomedicale
Dispomedicale
 
Ctd triangle
Ctd triangleCtd triangle
Ctd triangle
 

Ähnlich wie 6 Info Theory

パターン認識 04 混合正規分布
パターン認識 04 混合正規分布パターン認識 04 混合正規分布
パターン認識 04 混合正規分布
sleipnir002
 
プログラミングコンテストでの乱択アルゴリズム
プログラミングコンテストでの乱択アルゴリズムプログラミングコンテストでの乱択アルゴリズム
プログラミングコンテストでの乱択アルゴリズム
Takuya Akiba
 
TokyoWebmining統計学部 第1回
TokyoWebmining統計学部 第1回TokyoWebmining統計学部 第1回
TokyoWebmining統計学部 第1回
Issei Kurahashi
 

Ähnlich wie 6 Info Theory (20)

パターン認識 04 混合正規分布
パターン認識 04 混合正規分布パターン認識 04 混合正規分布
パターン認識 04 混合正規分布
 
katagaitai workshop #7 crypto ナップサック暗号と低密度攻撃
katagaitai workshop #7 crypto ナップサック暗号と低密度攻撃katagaitai workshop #7 crypto ナップサック暗号と低密度攻撃
katagaitai workshop #7 crypto ナップサック暗号と低密度攻撃
 
お披露目会05/2010
お披露目会05/2010お披露目会05/2010
お披露目会05/2010
 
[Basic 14] 暗号について / RSA 暗号 / 楕円曲線暗号
[Basic 14] 暗号について / RSA 暗号 / 楕円曲線暗号[Basic 14] 暗号について / RSA 暗号 / 楕円曲線暗号
[Basic 14] 暗号について / RSA 暗号 / 楕円曲線暗号
 
東京都市大学 データ解析入門 6 回帰分析とモデル選択 1
東京都市大学 データ解析入門 6 回帰分析とモデル選択 1東京都市大学 データ解析入門 6 回帰分析とモデル選択 1
東京都市大学 データ解析入門 6 回帰分析とモデル選択 1
 
プログラミングコンテストでの乱択アルゴリズム
プログラミングコンテストでの乱択アルゴリズムプログラミングコンテストでの乱択アルゴリズム
プログラミングコンテストでの乱択アルゴリズム
 
楕円曲線入門 トーラスと楕円曲線のつながり
楕円曲線入門トーラスと楕円曲線のつながり楕円曲線入門トーラスと楕円曲線のつながり
楕円曲線入門 トーラスと楕円曲線のつながり
 
"Puzzle-Based Automatic Testing: Bringing Humans into the Loop by Solving Puz...
"Puzzle-Based Automatic Testing: Bringing Humans into the Loop by Solving Puz..."Puzzle-Based Automatic Testing: Bringing Humans into the Loop by Solving Puz...
"Puzzle-Based Automatic Testing: Bringing Humans into the Loop by Solving Puz...
 
代数的実数とCADの実装紹介
代数的実数とCADの実装紹介代数的実数とCADの実装紹介
代数的実数とCADの実装紹介
 
双対性
双対性双対性
双対性
 
Infomation geometry(overview)
Infomation geometry(overview)Infomation geometry(overview)
Infomation geometry(overview)
 
演習II.第1章 ベイズ推論の考え方 Part 2.講義ノート
演習II.第1章 ベイズ推論の考え方 Part 2.講義ノート演習II.第1章 ベイズ推論の考え方 Part 2.講義ノート
演習II.第1章 ベイズ推論の考え方 Part 2.講義ノート
 
Shunsuke Horii
Shunsuke HoriiShunsuke Horii
Shunsuke Horii
 
PRML 8.4-8.4.3
PRML 8.4-8.4.3 PRML 8.4-8.4.3
PRML 8.4-8.4.3
 
TokyoWebmining統計学部 第1回
TokyoWebmining統計学部 第1回TokyoWebmining統計学部 第1回
TokyoWebmining統計学部 第1回
 
Introduction to Locally Testable Codes and Related Topics (in Japanese)
Introduction to Locally Testable Codes and Related Topics (in Japanese)Introduction to Locally Testable Codes and Related Topics (in Japanese)
Introduction to Locally Testable Codes and Related Topics (in Japanese)
 
Deep learning入門
Deep learning入門Deep learning入門
Deep learning入門
 
みどりぼん読書会 第4章
みどりぼん読書会 第4章みどりぼん読書会 第4章
みどりぼん読書会 第4章
 
カーネル法:正定値カーネルの理論
カーネル法:正定値カーネルの理論カーネル法:正定値カーネルの理論
カーネル法:正定値カーネルの理論
 
PRML 1.5-1.5.5 決定理論
PRML 1.5-1.5.5 決定理論PRML 1.5-1.5.5 決定理論
PRML 1.5-1.5.5 決定理論
 

Mehr von melvincabatuan (19)

2 Info Theory
2 Info Theory2 Info Theory
2 Info Theory
 
5 Info Theory
5 Info Theory5 Info Theory
5 Info Theory
 
3 Info Theory
3 Info Theory3 Info Theory
3 Info Theory
 
1 Info Theory
1 Info Theory1 Info Theory
1 Info Theory
 
4 Info Theory
4 Info Theory4 Info Theory
4 Info Theory
 
Dyspan Sdr Cr Tutorial 10 25 Rev02
Dyspan Sdr Cr Tutorial 10 25 Rev02Dyspan Sdr Cr Tutorial 10 25 Rev02
Dyspan Sdr Cr Tutorial 10 25 Rev02
 
Linear Algebra
Linear AlgebraLinear Algebra
Linear Algebra
 
(Ofdm)
(Ofdm)(Ofdm)
(Ofdm)
 
Cover
CoverCover
Cover
 
Straight
StraightStraight
Straight
 
Straight
StraightStraight
Straight
 
1 1040 Henry Nsma May 2008 V3
1 1040 Henry Nsma May 2008 V31 1040 Henry Nsma May 2008 V3
1 1040 Henry Nsma May 2008 V3
 
Meixia Tao Introduction To Wireless Communications And Recent Advances
Meixia Tao Introduction To Wireless Communications And Recent AdvancesMeixia Tao Introduction To Wireless Communications And Recent Advances
Meixia Tao Introduction To Wireless Communications And Recent Advances
 
Cs702 Anm A Ds M
Cs702 Anm A Ds MCs702 Anm A Ds M
Cs702 Anm A Ds M
 
Cognitive Radio Standardisation In Europe Etsi
Cognitive Radio Standardisation In Europe EtsiCognitive Radio Standardisation In Europe Etsi
Cognitive Radio Standardisation In Europe Etsi
 
Course Development Template
Course Development TemplateCourse Development Template
Course Development Template
 
Air Interface Club Lra Fading Channels
Air Interface Club Lra Fading ChannelsAir Interface Club Lra Fading Channels
Air Interface Club Lra Fading Channels
 
1 1040 Henry Nsma May 2008 V3
1 1040 Henry Nsma May 2008 V31 1040 Henry Nsma May 2008 V3
1 1040 Henry Nsma May 2008 V3
 
Pajek
PajekPajek
Pajek
 

6 Info Theory

  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 7.
  • 8.
  • 9.
  • 10.
  • 11.
  • 12.
  • 13.
  • 14.
  • 15.
  • 16.
  • 17.
  • 18.
  • 19.
  • 20.
  • 21.
  • 22.
  • 23.
  • 24.
  • 25.
  • 26.
  • 27.
  • 28.
  • 29.
  • 30.
  • 31.