4. 二つのn次元ベクトル
ベクトルの大きさ
ベクトルの内積
8/31/2013 33th Tokyo.R 4
ベクトル表現のおさらい [1/2]
nn b
b
b
a
a
a
2
1
2
1
,ba
22
,,,,cos, bbbaaababa
n
i
i
n
i
i
n
i
ii baba
1
2
1
2
1
,,,,, bbaaba
n
i
i
n
i
i ba
1
2
1
2
, ba
a
b
1cos1-
5. 8/31/2013 33th Tokyo.R 5
ベクトル表現のおさらい [2/2]
標本データと標本平均、平均からのズレのベクトル表現
knk
kk
kk
kkkkk
k
k
k
k
nk
k
k
k
jnj
jj
jj
jjjjj
j
j
j
j
nj
j
j
j
xx
xx
xx
x
x
x
x
x
x
x
xx
xx
xx
x
x
x
x
x
x
x
2
1
2
1
2
1
2
1
~,,
~,,
xxxxxx
xxxxxx
Rの文法
Rの文法
6. 8/31/2013 33th Tokyo.R 6
相関係数のベクトル表現
n
i
kikjijkj xxxx
1
~,~ xx
22 ~
1
1~,~
1
1
jjjj
nn
s xxx
分散
の成す角は二つのベクトル
共分散
kjjk
jkkjkjjk
nn
s
xx
xxxx
~,~
cos~~
1
1~,~
1
1
n
i
jjijjj xx
1
22 ~~,~ xxx
jk
kj
jkkj
kj
jk
jk
nn
n
ss
s
cos
~
1
1~
1
1
cos~~
1
1
r
22
xx
xx
相関係数
平行、反対の向き 正反対1
垂直共通なし0
平行、同じ向き全て共通1
比率性がどの程度あるかの2つのベクトルの共通
-r
r
r
jk
jk
jk
1r1 jk相関係数
12. 8/31/2013 33th Tokyo.R 12
最小二乗法での回帰係数導出 [2/3]
残差の二乗和 Q を最小化で回帰直線近似実施
n
i
i
i
n
i
i
n
i
i
i
n
i
in
i
i
n
i
i
i
n
i
in
i
in
i
i
i
n
i
in
i
i
n
i
ii
n
i
i
n
i
i
n
i
ii
n
i
i
x
yx
b
x
yx
y
x
yx
y
x
yx
bx
ybyxbxxbyuQ
1
2
1
1
2
2
1
1
2
1
2
2
1
1
2
2
1
2
1
1
2
1
2
1
2
1
2
1
2
1
2
~
~~
~
~~
~
~
~~
~
~
~~
~
~~~2~~~ˆ
等号成立条件:
13. 8/31/2013 33th Tokyo.R 13
最小二乗法での回帰係数導出 [3/3]
最小二乗法での回帰係数
相関係数との関係
xbya
x
yx
b n
i
i
i
n
i
i
ˆˆ,
~
~~
ˆ
1
2
1
ba ˆ,ˆ
x
y
xy
x
yxxy
x
xy
n
i
i
i
n
i
i
yxxyxy
yx
xy
xy
s
s
r
s
ssr
s
s
x
yx
b
ssrs
ss
s
r
22
1
2
1
~
~~
ˆ
yy
y
一方、
の値に無関係に一定値は
となりつまり回帰直線は
0ˆ0
y
0ˆ0
br
x
yy
br
xy
xy
が成立
に対してこの結果より、求めた
0ˆˆˆ
ˆ,ˆ
xbayu
ba
17. 17
傾き の不偏性: の証明
8/31/2013 33th Tokyo.R
bˆ
n
i
i
n
i
ii
n
i
i
i
n
i
i
n
i
i
ii
n
i
i
n
i
i
i
n
i
i
iii
iiii
xx
xx
xx
xx
xx
xxxx
xx
yyxx
b
n
xxyy
xy
Ebxy
1
2
1
1
2
1
1
2
1
1
2
1
E
E
EEˆE
0ˆ
注意して団の要素数でない事にが標本の大きさで母集
よりに代入する。先ず、を
bE ˆ
20. 20
準備:残差の性質 など
8/31/2013 33th Tokyo.R
0ˆˆˆˆ(3)
0~
~
~~
~~~ˆ~~
ˆ~ˆ~~ˆˆ
~,~~ˆ~ˆ)2(
0ˆ0ˆˆˆ)1(
1111
1 1
2
1
2
1
1 1
2
1011
1
n
i
i
n
i
ii
n
i
ii
n
i
iii
n
i
n
i
in
i
i
n
i
ii
ii
n
i
n
i
iii
n
i
i
n
i
iii
n
i
ii
n
i
ii
iiiiiii
n
i
i
uxuxuxxyyxx
x
x
yx
yxxbyx
uxxbyxuxxxux
xxxyyyxbyu
uxbayu
より 一方、
より
0ˆ,0ˆ
11
n
i
ii
n
i
i uxu
21. 21
の証明
8/31/2013 33th Tokyo.R
2
相関係数決定係数
2
2
22
2
1
2
1
2
2
1
1
2
1
1
2
1
1
2
1
1
2
1
2
2
11
1111
2
2
1
1
1
1
1
1
ˆˆ
bˆ
ˆˆˆˆ
ˆˆˆˆˆˆ
ˆˆˆˆˆˆˆˆ
xy
yx
xy
yx
xy
n
i
i
n
i
i
n
i
ii
n
i
i
n
i
ii
n
i
i
n
i
ii
n
i
i
n
i
ii
n
i
i
n
i
i
n
i
ii
n
i
iiii
n
i
iii
n
i
ii
n
i
ii
n
i
i
iiiii
r
ss
s
ss
s
yy
n
xx
n
yyxx
n
yy
yyxx
xx
yyxx
yy
yyxxb
yy
yy
R
yyxxbyyyyxxb
yyxxyyxxbyyxxbyy
yyxxbyyaxbaxbyy
を代入すると二乗推定の義式に代入して、最乗これらを決定係数の定
より