1

目 次

第 1章 簡易版ルベーグ積分 2

1.1 確率と統計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2

1.1.1 統計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2

1.1.2 確率モデル . . . . . . . . . . . . . . . . . . . . . . . . 2

1.2 確率空間 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1.3 確率変数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

第 2章 簡易版ルベーグ積分 6

2.1 簡易ルベーグ積分定義 . . . . . . . . . . . . . . . . . . . . . . 6

2.2 硬貨投げの積分 . . . . . . . . . . . . . . . . . . . . . . . . . . 7

第 3章 離散型確率論復習 11

3.1 確率分布 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12

3.2 多変数の確率分布 . . . . . . . . . . . . . . . . . . . . . . . . . 14

3.3 期待値と分散 . . . . . . . . . . . . . . . . . . . . . . . . . . . 17

3.4 共分散，相関係数 . . . . . . . . . . . . . . . . . . . . . . . . . 20

3.5 モーメント毋関数 . . . . . . . . . . . . . . . . . . . . . . . . . 21

第 4章 連続型確率論復習 27

4.1 密度関数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

4.2 高次元の密度関数 . . . . . . . . . . . . . . . . . . . . . . . . . 31

4.3 期待値と分散 . . . . . . . . . . . . . . . . . . . . . . . . . . . 36

4.4 モーメント毋関数 . . . . . . . . . . . . . . . . . . . . . . . . . 41

4.5 その他の連続型確率分布 . . . . . . . . . . . . . . . . . . . . . 43

4.6 その他，統計に現れる確率分布 . . . . . . . . . . . . . . . . . 48

4.6.1 ガンマ分布，ベータ分布と他の確率分布の間の関係 . . 49

第 5章 ルベーグ積分入門 50

5.1 準備 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50

5.2 確率分布 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52

5.3 積分の定義,その 1 . . . . . . . . . . . . . . . . . . . . . . . . 53

5.4 積分の定義，その 2 . . . . . . . . . . . . . . . . . . . . . . . . 54

2

第1章 簡易版ルベーグ積分

1.1 確率と統計1.1.1 統計統計のモデルでは母集団があって，そこから抜き足したものをデータ (標本)といいます．形式的に，母集団を Ωその元を ω ∈ Ωで表しましょう．そこからデータをとった結果がX(ω)というわけです．

例 1 Ωは世界の人の集団，ω ∈ Ωはあなたで，身長を測ったならばX(ω)はあなたの身長と言うわけです．

例 2 Ωは日本人全体,

X(ω) =

1 ω ∈ Ωがコロナにかかっている

0 ω ∈ Ωがコロナにかかっていない

Ωの中から ωを抜き出す確率は 1#Ω，つまりどの ωを抜き出すのも等確率で

あるというのが，統計の出発点になります．

1.1.2 確率モデルサイコロ投げを考えてみましょう．X は出た目，つまり 1, 2, 3, 4, 5, 6のうちの 1 つです．Ω はありませんので，とりあえず，紙の上に丸を描いて，これを Ωとしましょう．その丸を 6等分して，A1, A2, A3, A4, A5, A6 として(Ω =

⋃6i=1 Ai),各 Ai を選ぶ確率を 1

6，ω ∈ Ai のときにX(ω) = iとすると，確率と統計が同じ視点で見ることができるようになります．

問題 1.1 統計で同じ母集団から何回もデータをとりだすためには Ωはそのままでよいだろうか．

問題 1.2 サイコロ投げの場合に，Ωは実態がないのだが，2回サイコロ投げはどうすればよいか．

1.2. 確率空間 3

1.2 確率空間上で与えたΩを考えます．統計の例では，1人の人 ωを取り出す確率は 1

#Ω

というように，「点」に確率が入っていると考えられます．この考えを捨てましょう．確率は Ωの部分集合に入っていると考えるのです．つまり，ωの確率の代わりに ωの確率だと考えるのです．例えば，人口の半分の確率は 1

2 です．サイコロのモデルでも,Ω = 1, 2, 3, 4, 5, 6として，各 iの確率が 1

6 とするのが，古典的な考え方ですが，この考え方は捨てて，でっちあげの丸を Ωとして，その部分集合達 A1, A2, A3, A4, A5, A6にそれぞれ確率 1

6，A1 ∪A2の確率は 1

3 などと Ai 達の和集合について確率を考えることができます．「どっちでも同じ」ですって，その通りです．おこがましいことを言えば，数学とは定義や定理ではなく，思想なのです．異なる考え方から新しい数学が生まれます．今は違いがよくわからないかもしれません．

問題 1.3 サイコロモデルでは，Ai の和集合達にだけ確率を考えて，Ωの任意の部分集合に対して確率を考えていない，または考える必要がないのはなぜでしょう．

先に進みましょう．統計モデルでは Ωの部分集合全体を B で表します．σ–

algebraと言います．Bの元 A ∈ Bのことを事象と呼びます．Aが起きる確率を P (A)で表します．繰り返しますが，１点 ωの古典的確率 =1点の集合ωの確率 P (ω) = 1

#Ω です．空間と測れる集合全体と確率の 3つをまとめて，(Ω,B, P )を確率空間と言います．サイコロのモデルならば，Ωはでっち上げ、Bは A1, A2, A3, A4, A5, A6の様々な和集合全体 (空集合も含めて 26 個ある) となり書ききれません．硬貨投げにしましょう．Ωを 2つに分けて A,B (A ∩B = ∅),B = ∅, A,B,Ωで確率は P (A) = P (B) = 1

2 です．

例 3 (2回硬貨投げ) Ωを縦割りにしたのを A1, A2 として 1回目の硬貨投げ, 横割りにしたのを B1, B2として 2回目の硬貨投げに対応させます．BはA1, A2, B1, B2 から作られる部分集合全体ですから，もっとも細かく 4つに分けて

C1 = A1 ∩B1, C2 = A1 ∩B2, C3 = A2 ∩B1, C4 = A2 ∩B2

で表すと,Bは空集合 ∅を含む Ci 達の和集合全体の 16個

B = ∅, C1, C2, C3, C4, A1, A2, B1, B2, C1∪C3, C2∪C4,Ω\C1,Ω\C2,Ω\C3,Ω\C4,Ω

P (Ai) = P (Bj) =1

2, P (Ai ∩Bj) =

1

4

4 第 1章 簡易版ルベーグ積分

σ–algebraの性質

(1) ∅,Ω ∈ B

(2) A ∈ B ⇒ Ac ∈ B

(3) A,B ∈ Ω ⇒ A ∩B,A ∪B ∈ B

確率の性質

(1) P (∅) = 0, P (Ω) = 1

(2) A ∈ Bならば P (Ac) = 1− P (A)

(3) A,B ∈ B,A ∩B = ∅ならば P (A ∪B) = P (A) + P (B)

言いたいことは山ほどあるけど，これぐらいにしておきます．

問題 1.4 σ–algebraと確率の性質を証明してください．

問題 1.5 確率モデルでは σ–algebraに空集合を入れています．その理由は何ですか．

問題 1.6 将来的にはこの性質を定義として採用します．それにしては，上の性質は冗長です．本来，公理や定義は他の命題から証明できるものは省略して骨格だけにすべきものです．定義を作ってみてください．

1.3 確率変数Sを標本空間 (たいていの場合はR1)，つまり値の空間とします．A : Ω → S

を確率変数といいます．

例 4 Ωを世界の人の集合，X を身長を測る確率変数とすると

ω ∈ Ω: 160 ≤ X(ω) < 180

は身長が 160cm以上 180cm未満の人の全体．

例 5 Ωは日本人全体，X をコロナにかかっているなら 1，かかっていないなら 0 の値をとる確率変数とすると

ω ∈ Ω: X(ω) = 1

はコロナにかかっている人全体

1.3. 確率変数 5

例 6 (2回硬貨投げ)

X1(ω) =

1 ω ∈ A1

0 ω ∈ A2

X2(ω) =

1 ω ∈ B1

0 ω ∈ B2

とおくとX1は 1回目，X2は 2回目を表す 2回硬貨投げに対応する確率変数を表している．ここで表を 1,裏を 0とした．

確率変数の性質

(1) a ∈ Rについて，ω ∈ Ω: X(ω) < a ∈ B

(2) a ∈ Rについて，ω ∈ Ω: X(ω) ≤ a ∈ B

(3) a ∈ Rについて，ω ∈ Ω: X(ω) > a ∈ B

(4) a ∈ Rについて，ω ∈ Ω: X(ω) ≥ a ∈ B

(5) a ∈ Rについて，ω ∈ Ω: X(ω) = a ∈ B

(6) a < bについて，ω ∈ Ω: a < X(ω) < b ∈ B

(7) a < bについて，ω ∈ Ω: a < X(ω) ≤ b ∈ B

(8) a < bについて，ω ∈ Ω: a ≤ X(ω) < b ∈ B

(9) a < bについて，ω ∈ Ω: a ≤ X(ω) ≤ b ∈ B

言い換えれば，I ⊂ R1 を区間とするときX−1(I) ∈ Bということです．

問題 1.7 上の確率変数の性質はどれでも確率変数の性質の定義として採用できます．そのことに着いて考えてみてください．

この問題は今までやってきた統計モデルやサイコロモデル，硬貨モデルで成り立ちますが，将来考える一般的な場合には (5)は不適切です．ちょっと難しいかもしれませんが理由を考えておいてください．

6

第2章 簡易版ルベーグ積分

2.1 簡易ルベーグ積分定義(Ω,B, P )を確率空間,X : Ω → S は

X(ω) =∑i

ai1Ai(ω)

の形をした確率変数とする．ここで ai ∈ R, Ai ∈ Bを満たす．1A は集合 A

の定義関数です．このとき　∫X(ω) dP =

∑i

aiP (Ai)

で積分を定義する．この値を

E(X) =

∫X(ω) dP

で表し，確率変数の期待値ともよぶ．

問題 2.1 1回硬貨投げについて E(X) = 12 を確かめてください．

問題 2.2 2回硬貨投げでE(X + Y ) = 1

をルベーグ積分に基づいて計算してください，

定義 1

Y (ω) = (X(ω)− E(X))2

で新しい確率変数 Y を定義し，この積分を分散 V (X)とよぶ．

V (X) =

∫Y (ω) dP =

∫(X(ω)− E(X))2 dP

定義 2

ϕX(t) = E(eitX) =

∫eitX dP

をX の特性関数という．

2.2. 硬貨投げの積分 7

積分の性質

(1)∫aX(ω) dP = a

∫X(ω) dP

(2)∫(X(ω) + Y (ω)) dP =

∫X(ω) dP +

∫Y (ω) dP

問題 2.3 この積分の性質を証明してみてください．簡単な関数の場合だけ定義しましたから，リーマン積分に出てくるような上積分だの下積分だの病的なことは出てきません．すごく自然な定義だと思うんですが，違いはどこにあるのでしょう．

問題 2.4 上の積分の性質を期待値E(X)の形で表現してください．これは期待値の線形性を表しています．

問題 2.5

V (X) = E[(X − E(X))2] = E(X2)− (E(X))2

を証明してください．

問題 2.6 X,Y を確率変数とするとき

Cov(X,Y ) = E[(X − E(X))(Y − E(Y )]

をX と Y の共分散という．このとき，

Cov(X,Y ) = E(XY )− E(X)E(Y )

を証明してください．

問題 2.7 この積分は都合の良い関数についてだけしたんですけど，もっと一般的な関数（例えば連続関数）についても定義しなければいけないはずです．そのために必要なことはなんでしょう．本当に，連続関数の積分って定義したいですか？

2.2 硬貨投げの積分硬貨投げの確率空間を具体的に構成しましょう．Ω = [0, 1]とします．1回目の硬貨投げX1 を

X1(ω) =

0 0 ≤ ω < 12

1 12 ≤ ω ≤ 1

8 第 2章 簡易版ルベーグ積分

とおきます．ここで表は 1，裏は 0としています．ω = 12 のとき，どちらに

入れるかは自由です．こちらが勝手に定義するんですからね．

B1 = ∅, [0, 12), [

1

2, 1], [0, 1]

です．

問題 2.8 X( 12 ) = 1にすると B1 が変わります．どうすればいいでしょう．

P [0,1

2) = P [

1

2, 1] =

1

2

要するに普通の長さです．これでできあがりです．

0.2 0.4 0.6 0.8 1.0

0.2

0.4

0.6

0.8

1.0

図 2.1: X1 のグラフ

問題 2.9 X1 をルベーグ積分をして，E(X) = 12 であることを確かめてくだ

さい．

2回目の硬貨投げX2 を考えましょう．2回とも表という事象

ω ∈ Ω: X1(ω) = X2(ω) = 1

の確率は 14 になるようにすればよいわけですから．

X2(ω) =

0 ω ∈ [0, 14 ) ∪ [ 12 ,

34 )

1 ω ∈ [ 14 ,12 ) ∪ [ 34 , 1]

とすれば良さそうです．B1,2は全て書くのは面倒ですが，[0, 14 ), [

14 ),

12 ), [

12 ,

34 ), [

34 , 1]

の様々な和全体の 16個を考えればよさそうです．もちろん，P は上にあげた4つの集合は 1

4 でいいですね．

問題 2.10 B12 の元とその確率を全て表してください.

2.2. 硬貨投げの積分 9

0.2 0.4 0.6 0.8 1.0

0.2

0.4

0.6

0.8

1.0

図 2.2: X2 のグラフ

例えばPω ∈ Ω: X1(ω) = X2(ω) = 1 =

1

4

になりますね．X2 の積分 E(X2)をルベーグ積分で計算すると∫

X2 dP = 0× P [0,1

4) + 1× P [

1

4),1

2) + [0× P

1

2,3

4) + 1× P [

3

4, 1]

はルベーグ積分ではありません．それ以上に違和感を覚えるのは，1回目の硬貨投げと 2回目の硬貨投げは本質的に同じはずです．その扱いが異なるのは何かおかしいのではないでしょうか．既に手は打ってあります.σ–algebra

を B2 ではなく B12 と書いてあるんですよ．X2 だけを考えてみましょう．X1 の σ–algebraを考えるとき，

[0,1

2) = ω ∈ Ω: X1(ω) = 0, [

1

21] = ω ∈ Ω: X1(ω) = 1

だったからです.同じようにX2 の σ–algebraを考えるならば

I0 = ω ∈ Ω: X2(ω) = 0, I2 = ω ∈ Ω: X2(ω) = 1

として，B2 = ∅, I1, I2, [0, 1]とすべきだったのでしょう．∫X2 dP = 0× P (I1) + 1× P (I2) =

1

2

がルベーグ積分です．実数の元は順序通りならべなければいけない，実数には位相が入っている，という思い込みが邪魔をしているのです．区間の順序を入れ替えれば，X2のグラフもX1のグラフと一緒になります．P も本質的には同じですが，B1の元だけ確率を与える場合と B2の元にだけ与える場合とは異なると考えて P1, P2 と表現を変えるべきなのです．つまり，X1 だけ

10 第 2章 簡易版ルベーグ積分

を考えるには確率空間 ([0, 1],B1, P1)を考え，X２だけを考えるには確率空間([0, 1],B2, P2)を考えるべきです．わかりましたか？発想の転換こそ数学の楽しみです．ではB1,2は何でしょう．2回硬貨を投げたときの表の階数の平均を考えると∫

(X1 +X2) dP = 0× P [0,1

4) + 1× P [

1

4,3

4) + 2× P [

3

4, 1]

です．ここで [ 14 ,34 ) ∈ B12であることは確かめれますよね．つまり，X1とX2

の両方を考えるときに必要な σ–algebraだったのです．3回目の硬貨投げX３も考えましょう．これも入れ替えれば，X1のグラフ

0.2 0.4 0.6 0.8 1.0

0.2

0.4

0.6

0.8

1.0

図 2.3: X３ のグラフ

と同じになります．以下，X1, X2, . . .と無限回硬貨投げを区間 [0, 1]の上に作り上げることができそうです．実際，Xnだけを考えるならその σ–algebra

は 4つの元だけからなる簡単なものです．順序を入れ替えればグラフは X1

と同じです．でも，これらの確率変数全体に関わる事象を考えるには大きなσ–algebraが必要になり，それには簡易版のルベーグ積分では不足です．ところで，Xnが何であるか、気がつきましたか．実は [0, 1]の点を 2進展開したときの n桁目なのです．ということは確率論は整数論とも結びつくことが示唆されます．大数の法則「効果を多数回投げると，表の出る割合は 1

2

に近づく」は，「2進展開をしたとき 1の割合が 12 である点全体の長さは 1で

ある」となります．しかし，2進展開をしたとき 1の割合が 12 である点全体

は区間にはなりません．なぜなら有理数は稠密ですし，有理数はこの集合に属しません．ということは，この集合の長さはどうやって測ったらいいのでしょう．もっといえば，長さってなんでしょう．

11

第3章 離散型確率論復習

古典的には 2つの確率変数X,Y について

(X が値 aをとり，Y が値 bをとる確率) =

(X が値 aをとる確率)× (Y が値 bをとる確率)

が成り立つとき，X と Y が独立であるといいます．これを現代風に書き換えましょう．(Ω,B, P )を確率空間，Xを確率変数とするときBX = X−1(I) : Iは区間 をX を可測にする subσ–algebraとよびましょう．

問題 3.1 BX ⊂ Bを証明してください．

問題 3.2 2回硬貨投げのモデルで BX を求めてください．

X,Y を確率変数，BX ,BY をそれぞれの確率変数を可測にする subσ–algebra

とします．

定義 3 任意の AX ∈ BX と AY ∈ BY について

P (AX ∩AY ) = P (AX)× P (AY )

が成り立つとき，確率変数X と Y は独立であるという．

問題 3.3 X と Y が独立ならば

E(XY ) = E(X)× E(Y )

を示してください．さらのこれを用いて，X と Y が独立ならば

Cov(X,Y ) = 0

を示してください．

問題 3.4 2回硬貨投げのモデルで，1回目の硬貨投げと 2回目の硬貨投げは独立であることを示してください．

ここから次の章までは２年生用の確率のファイルをそのまま取り込んだ古典的確率論です．これを現代的に解釈しながら読み進んでください．初心者には虚数を使わない方がよいと考え，特性関数の代わりにモーメント母関数を使っています．

12 第 3章 離散型確率論復習

3.1 確率分布S を有限または可算集合とする．各 xi ∈ S に確率 pi を表にする．

値 x1 x2 · · ·確率 p1 p2 · · ·

pi ≥ 0と∑

i pi = 1をみたすとする．これを確率分布とよぶ．とくに Sが離散集合であるので，離散型確率分布とよぶ．S は有限もしくは可算集合，確率分布は

• pi ≥ 0

•∑

i pi = 1

をみたす．

例 7 (等確率型)

#S = n, pi =1

n

例 8 (二項分布) B(n, p)とも表す (0 < p < 1)，また q = 1− pを表す．

S = 0, 1, 2, . . . , n, pi = nCipiqn−i

例 9 (幾何分布) Ge(p)とも表す (0 < p < 1)，また q = 1− pを表す．

S = 0, 1, 2, . . ., pi = piq

例 10 (ポアソン分布) Po(λ)とも表す (λ > 0)

S = 0, 1, 2, . . ., pi = e−λλr

r!

例 11 (負の 2項分布) NB(n, p)とも表す (0 < p < 1)，また q = 1 − pを表す．

pk = n+k−1Ckpnqk

始めて n回目の失敗をするまでの成功の回数 kを表す．NB(1, p)は幾何分布になる．

問題 3.5 負の 2項分布は

P (X = k) =

(−n

k

)pn(−q)k

と表すことができることを示し，さらに全体の確率が 1に等しいことを示してください．

3.1. 確率分布 13

解.

n+k−1Ckpnqk =

(n+ k − 1)!

k!(n− 1)!pnqk

=(n+ k − 1)(n+ k − 2) · · ·n

k!pnqk

=(−n)(−n− 1) · · · (−n− k + 1)

k!(−1)kpnqk

=

(−n

k

)pn(−q)k

ここで∞∑k=0

(−n

k

)pn(−q)k = pn(1− q)−n = 1

数学的に厳密な概念ではないが，Rに値をとる変数X を確率変数という．

pi = P (X = xi)

により，事象 xiが起きる確率 piを定めると，xi全体の集合 S の上の確率分布が定まる．

問題 3.6 X が次の式をみたすとき定数 C,Dを求めてください．

(1)

P (X = k) = nCkpk × Cn−k, (0 ≤ k ≤ n)

(2)

P (X = k) = Cpqk +D, (k ≥ 0)

(3)

P (X = k) = Cλk

k!, (k ≥ 0)

問題 3.7X −1 0 1

確率 16

12

をみたすとき，空欄を埋め，2X − 1，X2，tX，etX の確率分布を求めてください．

解.

X −1 0 1

確率 16

13

12

14 第 3章 離散型確率論復習

2X − 1 −3 −1 1

確率 16

13

12

X2 0 1

確率 13

23

tX 1t 1 t

確率 16

13

12

etX 1et 1 et

確率 16

13

12

3.2 多変数の確率分布X\Y y1 y2 · · · 和x1 p11 p12 · · · pX1

x2 p21 p22 · · · pX2...

......

. . ....

和 pY1 pY2 · · · 1

ここで

pXi = P (X = xi) =∑j

pij , pYj = P (Y = yj) =∑i

pij

これらにより，X と Y の確率分布が定まる．これを周辺分布という．

X x1 x2 · · ·確率 pX1 pX2 · · ·

Y y1 y2 · · ·確率 pY1 pY2 · · ·

問題 3.8 X,Y が確率分布

X\Y 0 1 2 和0 1

2416

13

1 112

2 18

724

和 524

にしたがうとき，まず穴を埋め，X + Y，XY，maxX,Y ，minX,Y の確率分布を定めてください．

解.

X\Y 0 1 2 和0 3

24124

16

13

1 112

112

524

924

2 18

112

112

724

和 824

524

1124

3.2. 多変数の確率分布 15

X + Y 0 1 2 3 4

確率 324

324

924

724

224

XY 0 1 2 4

確率 1324

224

724

224

maxX,Y 0 1 2

確率 324

524

1624

minX,Y 0 1 2

確率 1324

924

224

問題 3.9 0 < p1, . . . , pn < 1，p1 + · · ·+ pn = 1について，X1, . . . , Xn の確率分布が

P (X1 = k1, . . . , Xn = kn) =n!

k1! · · · kn!pk11 · · · pkn

n (k1, . . . , kn ≥ 0, k1+· · ·+kn = n)

をみたすとき，多項分布という．これが確率分布になっていることを確かめてください．

解. ∑k1,...,kn : k1+···+kn=n

n!

k1! · · · kn!pk11 · · · pkn

n = (p1 + · · ·+ pn)n = 1

pij = pXi × pYj

をすべての i, jについてみたすとき，X と Y は独立であるという．言い換えれば，

P (X = xi, Y = yj) = P (X = xi)× P (Y = yj)

が成り立つとき独立である．2つ以上の確率変数の場合にも，

P (X = xi, Y = yj , Z = zk) = P (X = xi)× P (Y = yj)× P (Z = zk)

などと積となるとき独立という．無限個の確率変数 X1, X2, . . .のときには，任意の有限個を取り出すとき，それらが独立なとき，独立であるという．

問題 3.10 X と Y，Y と Z，Z と X はそれぞれ独立なのに X,Y, Z が独立でない例を作ってください．

解.

P (X = 1, Y = 1, Z = 0) =1

9， P (X = 1, Y = 0, Z = 0) =

1

9，

P (X = 1, Y = 0, Z = 1) =1

9, P (X = 0, Y = 1, Z = 0) =

1

9，

P (X = 0, Y = 1, Z = 1) =1

9， P (X = 0, Y = 0, Z = 1) =

1

9,

P (X = Y = Z = 0) =1

3

16 第 3章 離散型確率論復習

問題 3.11 (1) XとY が以下の表をみたすとき空欄を埋め，さらにmaxX,Y の確率分布を求めてください．

X\Y 0 1 和0 1

2416

1 18

和

(2) X と Y が独立なとき空欄を埋め，さらに X + Y の確率分布を求めててください．

X\Y 0 1 和0 1

2416

1

和

解.

(1)

X\Y 0 1 和0 1

24324

16

1 1124

324

2024

和 1824

624

maxX,Y 0 1

確率 124

2324

(2)

X\Y 0 1 和0 1

24324

424

1 524

1524

2024

和 624

1824

X + Y 0 1 2

確率 124

824

1524

問題 3.12 (1) X1, . . . , Xn が独立ならば，そのうちの任意の有限個の確率変数も独立であることを示してください．

(2) 任意のX1, X2, . . . , Xn が独立ならば，X1, X2, . . .も独立であることを示してください．

解.

(1) X1, . . . , Xn−1 が独立なことを示せば，後はその繰り返しで示せる．

3.3. 期待値と分散 17

(2) 上の主張より明らか

3.3 期待値と分散確率変数X の期待値 (平均)とは

E(X) =∑i

xipi

問題 3.13 xi に確率 pi の錘りを置いたとき，回転モーメントが 0に等しくなる点が期待値であることを示してください．

期待値の性質

(1) E(X + Y ) = E(X) + E(Y )

(2) E(aX + b) = aE(X) + b

(3) X と Y が独立ならば，E(XY ) = E(X)× E(Y )

分散とはV (X) = E[(X − E(X))2] =

∑i

(xi − E(X))2pi

また，標準偏差とはσ(X) =

√V (X)

分散の性質

(1) V (aX + b) = a2V (X)

(2) V (X) = E(X2)− (E(X))2

(3) X と Y が独立ならば，V (X + Y ) = V (X) + V (Y )

問題 3.14 サイコロ 2個 X,Y を投げるとき，合計の目に対応する確率変数X + Y，大きい方の目に対応する確率変数maxX,Y , minX,Y の期待値と分散を求めてください．

解. E(X) = E(Y ) = 72，V (X) = V (Y ) = 35

12 で独立である．

E(X + Y ) = E(X) + E(Y ) = 7

V (X + Y ) = V (X) + V (Y ) =35

6

18 第 3章 離散型確率論復習

xについて

P (maxX,Y ≤ x) = P (X ≤ x, Y ≤ x) = P (X ≤ x)× P (Y ≤ x)

なので

P (maxX,Y ≤ 1) =1

36

P (maxX,Y ≤ 2) =1

9

P (maxX,Y ≤ 3) =1

4

P (maxX,Y ≤ 4) =4

9

P (maxX,Y ≤ 5) =25

36P (maxX,Y ≤ 6) = 1

maxX,Y 1 2 3 4 5 6

確率 136

112

536

736

14

1136

E(maxX,Y ) =161

36

V (maxX,Y ) =2555

1296

xについて

P (minX,Y ≥ x) = P (X ≥ x, Y ≥ x) = P (X ≥ x)× P (Y ≥ x)

なので

P (minX,Y ≥ 1) = 1

P (minX,Y ≥ 2) =25

36

P (minX,Y ≥ 3) =4

9

P (minX,Y ≥ 4) =1

4

P (minX,Y ≥ 5) =1

9

P (minX,Y ≥ 6) =1

36

maxX,Y 1 2 3 4 5 6

確率 1136

14

736

536

112

136

ここで

E(minX,Y ) =6∑

k=1

kP (X = k) =

6∑k=1

P (X ≥ k) =91

36

3.3. 期待値と分散 19

と計算することもできる．

E(minX,Y 2) = 301

36

よりV (minX,Y ) = 35

6

問題 3.15 10種類のおまけが入っているお菓子がある．10種類全部集めるのに必要な個数の期待値を求めてください．n種類ならどうですか．

解. 1種類目は 1つ買えば必ず手に入る．2種類目を得る確率は 910，など

と 10種類目を得る確率は 110 などの幾何分布になっているので，期待値は

1 +10

9+ · · ·+ 10

1= 10

(1

1+

1

2+ · · ·+ 1

9+

1

10

)nならば

n

(1

1+

1

2+ · · ·+ 1

n

)≑ n(log n+ γ)

γ ≑ 0.57721はオイラー定数

γ = limn→∞

(n∑

k=1

1

k− log n

)

問題 3.16

Y =X − E(X)√

V (X)

とおくと，E(Y ) = 0かつ V (Y ) = 1

問題 3.17 X1, . . . , Xn は独立で，V (X1) = · · · = V (Xn) = vならば

V (X1 + · · ·+Xn

n) =

v

n

20 第 3章 離散型確率論復習

3.4 共分散，相関係数X と Y の共分散を

Cov(X,Y ) = E[(X − E(X))(Y − E(Y ))]

で定義する．さらにρ(X,Y ) =

Cov(X,Y )√V (X)V (Y )

を相関係数という．

問題 3.18 相関係数はX と Y を正規化した X = X−E(X)√V (X)

, Y = Y−E(Y )√V (Y )

の

共分散 ρ(X,Y ) = Cov(X, Y )であることを確かめてください．

問題 3.19 相関係数が次元によらないことを確かめてください．

解. ちょっと拡張して，a, c > 0について

ρ(aX + b, cY + d) = ρ(X,Y )

が容易に確かめられる．

問題 3.20 XとY が独立ならば，Cov(X,Y ) = 0をみたす．また，Cov(X,Y ) =

0をみたしても，独立でない例を作ってください．

解.

Cov(X,Y ) = E(XY )− E(X)E(Y )

より，明らかである．また，

X\Y −1 0 1 和−1 0 1

9 0 19

0 19

59

19

79

1 0 19 0 1

9

和 19

79

19

は独立ではないが，E(X) = E(Y ) = 0かつE(XY ) = 0なので，Cov(X,Y ) =

0

3.5. モーメント毋関数 21

問題 3.21 |ρ(X,Y )| ≤ 1であること，および ρ(X,Y ) = ±1ならば，Y =

aX + bをみたす a, bが存在することを示してください．また

ρ(X,Y ) = 1 ⇒ a > 0. ρ(X,Y ) = −1 ⇒ a < 0

もみたす．

解. t ∈ Rについて，

V (X + tY ) = V (X) + 2tCov(X,Y ) + t2V (Y )

tの 2次式として常に非負であるので，その判別式

D/4 = (Cov(X,Y ))2 − V (X)V (Y ) ≤ 0

である．これより，(ρ(X,Y ))2 ≤ 1

が出る．また，ρ(X,Y ) = ∓1ならば，

t = ±

√V (X)

V (Y )

のときには，V (X + tY ) = 0になる．すなわち

X ±

√V (X)

V (Y )Y =定数

3.5 モーメント毋関数確率変数X に対して，

MX(t) = E[etX ]

をモーメント毋関数という．他に，非負の整数値のみをとる確率変数については

PX(t) = E[tX ]

を確率毋関数，モーメント毋関数は確率変数によっては収束する tに注意を払わなければならないので

ϕX(t) = E[eitX ]

を特性関数という．数学的には特性関数がもっとも意味をもつ．

22 第 3章 離散型確率論復習

定理 1

MX(0) = 1, M ′X(0) = E(X), M ′′

X(0) = E(X2)

問題 3.22 X がそれぞれ 2項分布 B(n, p)，幾何分布 Ge(p)，ポアソン分布Po(λ)，負の 2項分布NB(n, p)の期待値と分散を計算してください．さらに，モーメント毋関数 E[etX ]を求めてください．

解. 幾何分布は直接計算すると大変でしょう．

期待値 分散 モーメント毋関数B(n, p) np npq (etp+ q)n

Ge(p) pq

pq2

q1−etp

Po(λ) λ λ exp[etλ− λ]

NB(n, p) npq

npq2

(q

1−etp

)n

問題 3.23 X は非負の整数値をとる確率変数とする．このとき

E(X) =

∞∑k=0

P (X > k)

をみたすことをチェックし，これを用いて，幾何分布 Ge(p)の期待値を求めてください．

解.

∞∑k=0

P (X > k) =

∞∑k=0

∞∑l=k+1

P (X = l)

=

∞∑l=1

l−1∑k=0

P (X = l)

=

∞∑l=1

l P (X = l) =

∞∑l=0

l P (X = l) = E(X)

幾何分布の場合

P (X > k) =

∞∑l=k+1

pql = pqk+1 1

1− q= qk+1

したがって

E(X) =

∞∑k=0

qk+1 = q1

1− q=

q

p

3.5. モーメント毋関数 23

問題 3.24 X は値 0,1,2の 3つの値をとる確率変数で期待値が 76，分散が

1736

のとき，X の確率分布を求めてください．

解.

X の値 0 1 2

確率 16

12

13

問題 3.25 2項分布 B(n, p)，幾何分布Ge(p)，ポアソン分布 Po(λ)の期待値と分散をモーメント毋関数を用いて計算してください．

解.

確率分布 M(t) M ′(t) M ′′(t)

B(n, p) (etp+ q)n npet(etp+ q)n−1 npet(etnp+ q)(etp+ q)n−2

Ge(p) p1−etq

etpq(1−etq)2

et(1+etq)pq(1−etq)3

Po(λ) exp[etλ− λ] λet exp[λet − λ] λet(1 + λet) exp[λet − λ]

定理 2 確率変数 X と Y がMX(t) = MY (t)をみたすならば，X と Y は同分布である．

証明は Levyの反転公式からしたがう．X,Y のモーメント毋関数は

M(X,Y )(t, s) = E[etX+sY ]

一般にX1, . . . , Xnに対しては，t = (t1, . . . , tn)を用いて，X = (X1, . . . , Xn)

MX (t) = E[etX ]

により定義する．X1, . . . , Xn が独立であることと

MX (t) =

n∏i=1

MXi(ti)

とは同値である．

問題 3.26 X1, X2, . . .を均等な硬貨投げとする．

X =X1 + · · ·+Xn

n

のモーメント毋関数を求めてください．

24 第 3章 離散型確率論復習

解.

M1(t) = E[etX1 ] =1 + et

2であるので，

MX(t) = E[etX ] = E[e(tX1+···+tXn)/n]

= MX ((t

n, . . . ,

t

n))

=

n∏i=1

MXi(t

n)

=

(1 + et/n

2

)n

この式をテイラー展開すると

(1 +t

2n+ · · · )n → et/2

右辺は，常に値 12 をとる確率変数 (といえるかな)に等しい．これは大数の法

則になっている．

問題 3.27 (2項分布の再生性) XとY がそれぞれ2項分布B(n, p)とB(m, p)

にしたがい，独立とする．このとき，X + Y は 2項分布 B(n+m, p)にしたがうことを示してください．

解.

MX+Y (t) = E[et(X+Y )]

= E[etX ]× E[etY ]

= (etp+ q)n(etp+ q)m

= (etp+ q)n+m

これを確率分布で求めるのはなかなか大変である．

問題 3.28 (Poisson分布の再生性) Xと Y がそれぞれポアソン分布Po(λ)

とPo(µ)にしたがい，独立とする．このとき，X+Y はポアソン分布Po(λ+µ)

にしたがうことを示してください．

解.

MX+Y (t) = E[et(X+Y )]

= E[etX ]× E[etY ]

= exp[(et − 1)λ]× exp[(et − 1)µ]

= exp[(et − 1)(λ+ µ)]

3.5. モーメント毋関数 25

これは確率分布を用いても容易に示せる．

P (X + Y = k) =

k∑l=0

P (X = l)× P (Y = k − l)

=

k∑l=0

e−λλk

k!e−µ µk−l

(k − l)!

= e−(λ+µ) 1

k!

k∑l=0

kClλlµk−l

= e−(λ+µ) (λ+ µ)k

k!

問題 3.29 負の 2項分布 NB(n, p)

P (X = k) = n+k−1Cn−1pnqk

は独立な幾何分布 Ge(p)にしたがう Y1, . . . , Yn の和X = Y1 + · · ·+ Yn の確率分布であることを確かめてください．

解. 負の 2項分布のモーメント毋関数は，負の 2項展開を用いると

MX(t) = E[etX ] =

∞∑k=0

ektn+k−1Cn−1pnqk

= pn∞∑k=0

n+k−1Cn−1(etq)k

= pn∞∑k=0

(n+ k − 1)!

k!(n− 1)!(etq)k

= pn∞∑k=0

(n+ k − 1) · · ·nk!

(etq)k

= pn∞∑k=0

(−n)(−n− 1) · · · (−n− k + 1)

k!(−etq)k

= pn∞∑k=0

−nCk(−etq)k

= pn(1− etq)−n

一方，幾何分布 Ge(p)のモーメント毋関数は

MY (t) = E[etY ] =

∞∑k=0

etkpqk =p

1− etq

26 第 3章 離散型確率論復習

であるので，その積は

MY1+···+Yn(t) =

pn

(1− etq)n

またこのことから，幾何分布Ge(p)は負の 2項分布NB(1, p)に等しいことがわかる．

問題 3.30 (負の 2項分布の再生性) X,Y が独立で負の2項分布NB(n, p),NB(m, p)

にしたがうとき，X + Y は NB(n+m, p)にしたがうことを示してください．

解.

MX(t) =

(p

1− etq

)n

, MY (t) =

(p

1− etq

)m

であるから

MX+Y (t) = E[et(X+Y ) = E[etX ]× E[etY ] =

(p

1− etq

)n+m

27

第4章 連続型確率論復習

この章も 2年生用の古典的確率論です．まず読んでみてください．P (X ≤ x)

のようなものは、必ずPω ∈ Ω: X(ω) ≤ x

と書き換えて読んでください．最後の方の「その他の連続型確率分布」以降はこの講義では必要ありません．

4.1 密度関数

FX(x) = P (X ≤ x)

を分布関数と言います．分布関数の性質

(1) FX(x)は単調増加関数

(2) limx→−∞ FX(x) = 0, limx→∞ FX(x) = 1

離散型の場合には，分布関数は階段型

X の値 x1 x2 · · ·X の確率 p1 p2 · · ·

ならば

FX(x) =

0 x < x1

p1 x1 ≤ x < x2

p1 + p2 x2 ≤ x < x2

· · · · · ·

となります．それに対して，分布関数が微分可能な場合を連続型と言い，

fX(x) =d

dxFX(x)

を密度関数と言います．したがって，

FX(a) =

∫ a

−∞fX(x) dx

28 第 4章 連続型確率論復習

をみたします．この場合，

P (a < X ≤ b) = P (X ≤ b)− P (X ≤ a) = FX(a)− FX(b)

であるので，

P (a < X ≤ b) =

∫ b

a

fX(x) dx

をみたします．したがって，

P (|X − a| < ε) → 0

となるので，1点の確率は 0になり，確率を確率分布表で与えることはできません．密度関数の性質

(1) fX(x) ≥ 0

(2)∫∞−∞ fX(x) dx = 1

例 12 一様分布 U(a, b)

f(x) =1

b− ax ∈ (a, b)

例 13 指数分布 Exp(λ)

f(x) = λe−λx x > 0

例 14 正規分布 N(m, v)

f(x) =1√2πv

e−(x−m)2/v

問題 4.1 X が正規分布 N(m, v)にしたがうとする．このとき，Y = X−m√v

は標準正規分布にしたがうことを確かめてください．

解. 一般には

P (Y ≤ y] = P (X ≤ y√v +m) =

∫ y√v+m

−∞

1√2πv

e−(x−m)2/2v dx

において，s = x−m√vとおけばよい．

MY (t) = E[etY ] = E[et(X−m)/√v] = e−tm/sqrtvMX(t

√v)

およびMX(t) = emt+vt2/2

を用いてもよい．

4.1. 密度関数 29

問題 4.2 (1) 密度関数

f(x) =

13 |x− 2| 1 ≤ x ≤ 3

Cx2 −1 ≤ x < 1

をみたす C を求めてください．

(2) [0, π]の上の密度関数 C sin2 xとするとき，C を求めてください．

解.

(1) 1, (2)2

π

問題 4.3 連続型の確率変数X について

P (X ≤ x) =

C −De−λx x ≥ 0

0 x < 0

とするとき，C,Dを定め，確率変数X の密度関数を求めてください．

解.

P [X < ∞] = 1

であることから，C = 1でなければならない．または，連続型であるときより．

limx↓0

P (X ≤ x) = 0

を考えると，C = Dをみたすことがわかる．xで微分することにより

fX(x) =

Dλe−λx x ≥ 0

0 x < 0

を得るが，∫∞0

fX(x) dx = 1より，D = 1が出る．

問題 4.4 (対数正規分布) 正規分布 N(m, v)にしたがう確率変数 X について，eX の密度関数を求めてください．

解. a > 0について

FeX (a) = P (eX ≤ a) = P (X ≤ log a)

=1√2πv

∫ log a

−∞e−(x−m)2/2v dx

30 第 4章 連続型確率論復習

したがって，feX (a) =

1√2πv

e−(log a−m)2/2v 1

a

問題 4.5 (自由度 1の χ2 分布) 正規分布 N(0, 1)にしたがう確率変数 X について，X2 の密度関数を求めてください．

解. a > 0について

FX2(a) = P (X2 ≤ a) = P (−√a ≤ X ≤

√a)

=1√2π

∫ √a

−√a

e−x2/2

微分してfX2(a) =

1√2πa

e−a/2

問題 4.6 (自由度 2の χ2 分布) 正規分布N(0, 1)にしたがう独立な確率変数X,Y について，X2 + Y 2 の密度関数を求めてください．

解. X2,Y 2 の密度関数は自由度 1の χ2 分布であるから

P (X2 + Y 2 ≤ z) =

∫ ∞

−∞

∫ z−u

−∞fX2(u)fY 2(v) dudv

であるので，密度関数は

fX2+Y 2(z) =

∫ ∞

−∞fX2(u)fY 2(z − u) du

=

∫ z

0

1√2πu

e−u/2 1√2π(z − u)

e−(z−u)/2 du

=e−z/2

2π

∫ 1

0

1

zt(z − zt)z dt (u = zt)

=e−z/2

2πB(1/2, 1/2)

=1

2e−z/2

4.2. 高次元の密度関数 31

4.2 高次元の密度関数確率変数X と Y の結合分布が

P (a < X < b, c < Y < d) =

∫f(X,Y )(x, y) dxdy

で与えられる．より，高次元の場合も考えられる．この場合，密度関数は高次元の関数となる．

(1) f(X,Y )(x, y) ≥ 0

(2)∫f(X,Y )(x, y) dxdy = 1

などとなる．

問題 4.7 Dは [0, 1]2 の場合と (0, 0), (1, 0), (0, 1)を頂点とする三角形とする場合に

f(x, y) = Cx2y

をみたすとき，それぞれの C を求めてください．

解. D = [0, 1]2 のときには，C = 6，三角形のときには∫ 1

0

dx

∫ 1−x

0

x2y dy =1

60

であるから，C = 60

問題 4.8 Dは原点を中心とする半径 1の円の第一象限にある 4分円とする．

f(x, y) = C√

x2 + y2

とするとき C を求めてください．

解. dxdy = r drdθより ∫ 1

0

dr

∫ π/2

0

r2 dθ =π

6

より，C = 6π

X の密度関数を求めてみよう

FX(a) = P (X < a) = P (X < a,−∞ < Y < ∞)

=

∫ a

−∞dx

∫ ∞

−∞f(X,Y )(x, y) dxdy

32 第 4章 連続型確率論復習

この式を aで微分するとX の密度関数

fX(a) =

∫ ∞

−∞f(X,Y )(a, y) dy

を得る．同様にfY (b) =

∫ ∞

−∞f(X,Y )(x, b) dx

結合分布から周辺分布を導くことができる．X と Y が独立であるとは

P (a < X < b, c < Y < d) = P (a < X < b)× P (c < Y < d)

などと表されることを言う．3つ以上の複数の確率変数の場合にも離散型と同様に定義される．この場合，密度関数は

P (a < X < b, c < Y < d) =

∫ b

a

dx

∫ d

c

dyf(X,Y )(x, y)

P (a < X < b)× P (c < Y < d) =

∫ b

a

fX(x) dx

∫ d

c

fY (y) dy

がすべての a, b, c, dについて成り立つのだから，

f(X,Y )(x, y) = fX(x)× fY (y)

が成り立つ．離散型と同様に独立であれば，周辺分布から結合分布を導くことができる．

問題 4.9 Dは [0, 1]2 のとき，

f(x, y) = 6x2y

Dが (0, 0), (1, 0), (0, 1)を頂点とする三角形とする場合に

f(x, y) = 60x2y

をみたすとき，X と Y の密度関数を求めてください．X と Y は独立ですか．さらに P [X ≤ 1

2 ]を求めてください．

解. D = [0, 1]2 のときには

fX(x) =

∫ 1

0

6x2y dy = 3x2

fY (y) =

∫ 1

0

6x2y dx = 2y

この場合には独立で，P (X ≤ 12 ] =

18

4.2. 高次元の密度関数 33

三角形のときには

fX(x) =

∫ 1−x

0

60x2y dy = 30(x2 − 2x3 + x4)

fY (y) =

∫ 1−y

0

60x2y dx = 20(1− y)3y

独立ではない．P [X ≤ x] = 10x3 − 15x4 + 6x5

なので P (X ≤ 12 ] = 1

2．この場合，E(X) = 12 , V (X) = 1

28，E(Y ) =13 , V (Y ) = 2

63

問題 4.10 (X,Y )の密度関数が f(X,Y ) で与えられているとき，X + Y の密度関数を求めてください．とくに，X と Y が U(0, 1)にしたがい，独立なときの密度関数を求めてください．

解.

FX+Y (a) = P (X + Y < a)

=

∫ ∞

−∞dx

∫ a−x

−∞f(X,Y )(x, y) dxdy

したがって，aで微分すれば

fX+Y (a) =

∫ ∞

−∞f(X,Y )(x, a− x) dx

とくに，X と Y が U(0, 1)にしたがい，独立なときには

f(X,Y )(x, y) = 1, 0 ≤ x, y ≤ 1

であるので，0 < a− x < 1であることに注意すると

fX+Y (a) =

∫ a

0dx = a 0 < a < 1∫ 1

a−1dx = 2− a 1 ≤ a < 2

問題 4.11 X,Y はU(0, 1)にしたがい独立なときP (X2+Y 2 < a)とP (maxX,Y <

a)，P (minX,Y < a)を求めてください．

34 第 4章 連続型確率論復習

解. f(X,Y )(x, y) = 1 ((x, y) ∈ [0, 1]2)であるので，

P (X2 + Y 2 < a) = a2π/4

P (maxX,Y < a) = a2

P (minX,Y < a) = 1− P (minX,Y ≥ a) = 1− (1− a)2

問題 4.12 X と Y がそれぞれ正規分布N(m1, v1)とN(m2, v2)にしたがい独立なとき，X + Y の確率分布を求めてください．

解. N(m1 +m2, v1 + v2)

問題 4.13 X と Y が U(0, 1)にしたがい，独立なとき，Z = maxX,Y の密度関数を求めてください．

解. 0 < a < 1について

FZ(a) = P (maxX,Y ≤ a) = P (X ≤ a, Y ≤ a)

= P (X ≤ a)× P (Y ≤ a)

= a2

したがって，密度関数 fZ(a) = 2a

問題 4.14 X,Y が独立で Exp(λ)にしたがうとき，Z = minX,Y の密度関数を求めてください．

解. a > 0について

FZ(a) = P (minX,Y ≤ a) = 1− P (minX,Y > a)

= 1− P (X > a, Y > a) = 1− P (X > a)× P (Y > a)

= 1−(∫ ∞

a

λe−λx dx

)2

= 1−([

−e−λx]∞a

)2= 1− e−2λa

したがってfZ(a) = 2λe−2λa

4.2. 高次元の密度関数 35

と再び指数分布になるが，maxX,Y は密度関数は

2λe−λa(1− e−λa)

となり，指数分布にはならない．

問題 4.15 (順序統計量) X,Y, Z が U(0, 1)にしたがい独立なとき，順序を変えてX(1) ≤ X(2) ≤ X(3) と表すとき，X(2)の密度関数を求めてください．

解. 0 < a < 1について

FX(2)(a) = P (X(2) ≤ a)

= P (X,Y, Z ≤ a) + 3C1P (X > a, Y, Z ≤ a)

= a3 + 3a2(1− a)

したがってfZ(a) = 3a2 + 6a− 9a2 = 6a− 6a2

問題 4.16 (高次元の正規分布) k次元のベクトルmと正定値 k × k対称行列 V について，密度関数

f(x) = (√2π)k(detV )−1/2 exp[−1

2t(x−m)V −1(x−m)]

を高次元の正規分布という．これが密度関数であることを確かめてください．

解. V は対称行列なので，固有値はすべて実数である．また，正定値であるとは，すべての固有値が正であることである．U−1V U が対角行列になるように選び，y = U−1(x−m)とおくと，

f(x) = (√2π)−k(detV )−1/2 exp[−1

2ty(U−1V U)−1y]

λ1, . . . , λk を固有値とし，zk = yk/√λk とおくと∫

f(x) dx =

∫(√2π)−k(detV )−1/2 exp[−1

2ty(U−1V U)−1y] dy

=

∫(√2π)−k exp[−1

2tzz] dz

=

k∏i=1

∫(√2π)−1e−z2

i /2 dzi = 1

36 第 4章 連続型確率論復習

V は分散共分散行列である．∫xtxf(x) dx =

∫UytyU−1(

√2π)−k(detV )−1/2 exp[−1

2ty(U−1V U)−1y] dy

= U

∫ √λ1z1...

√λkzk

(√

λ1z1, . . . ,√

λkzk) exp[−1

2(z21 + · · ·+ z2k)] dzU

−1

= U

λ1 0 · · · 0

0 λ2 · · · 0...

.... . .

...

0 0 · · · λk

U

= V

4.3 期待値と分散密度関数 fX(x)をもつ確率分布にしたがう確率変数X の期待値は

E(X) =

∫xfX(x) dx

分散はV (X) = E[(X − E(X))2] =

∫(x− E(X))2fX(x) dx

問題 4.17 X を (−∞,∞)に値をとる確率変数で

fX(x) =

Aex+1 x < −1

Bx2 −1 ≤ x < 0

Ce−x x ≥ 0,

が E(X) = −1，V (X) = 3とするとき，A，B，C を求めてください．

解. A = 23 , B = 0, C = 1

3

問題 4.18 密度関数f(x) =

1

π

γ

(x− x0)2 + γ2

をもつ確率分布をコーシー分布という．この分布が期待値をもたないことを示してください．

4.3. 期待値と分散 37

解. まず，密度関数であることを示そう．(x− x0)/γ = yとおく．∫ ∞

−∞

1

π

γ

(x− x0)2 + γ2dx =

1

πγ

∫ ∞

−∞

1

1 + ((x− x0)/γ)2dx

=1

π

∫ ∞

−∞

1

1 + y2dy

= [arctan y]π/2−π/2 = 1

一方，x ∈ [n− 1, n)では

x

1 + x2≥ n− 1

n2 + 1≥ n− 1

(n+ 1)2=

1

n+ 1− 2

1

(n+ 1)2

この和は発散することから ∫ ∞

0

x

1 + x2dx

は発散する．したがって，期待値は存在しない．

離散型と同様に期待値の性質

(1) E(X + Y ) = E(X) + E(Y )

(2) E(aX + b) = aE(X) + b

(3) X と Y が独立ならば，E(XY ) = E(X)× E(Y )

分散の性質

(1) V (aX + b) = a2V (X)

(2) V (X) = E(X2)− (E(X))2

(3) X と Y が独立ならば，V (X + Y ) = V (X) + V (Y )

問題 4.19 Y = ϕ(X)とするとき，

E(Y ) =

∫ϕ(x)fX(x) dx

を ϕ(x) = ax+ b，ϕ(x) = x2，ϕ(x) = etx のときにみたすことを示してください．

38 第 4章 連続型確率論復習

解.

P (Y ≤ y) = P (ϕ(X) ≤ y) = P (X ∈ ϕ−1(−∞, y))

ここで符号に注意すれば

fY (y) =d

dtP (Y ≤ y) =

∑x : ϕ(x)=y

fX(x)|ϕ′(x)|−1

これより

E(Y ) =

∫y fY (y) dy

=

∫y

∑x : ϕ(x)=y)

fX(x)|ϕ′(x)|−1 dy

=

∫ϕ(x)fX(x) dx

とくに ϕ(x) = ax+ bならば

P (Y ≤ y) = P (aX + b ≤ y) =

P (X ≤ y−ba ) a > 0

P (X ≥ y−ba ) a < 0

符号に注意して

fY (y) =

fX(y−ba ) 1a a > 0

−fX(y−ba ) 1a a < 0

= fX(y − b

a)

∣∣∣∣1a∣∣∣∣

これより，a < 0のときには，変数変換x = y−ba により，積分範囲が (+∞,−∞)

になることに注意すれば

E(Y ) =

∫yfY (y) dy

=

∫yfX(

y − b

a)

∣∣∣∣1a∣∣∣∣ dy

=

∫(ax+ b)fX(x) dx

同様に，ϕ(x) = x2 のときには

P (Y ≤ y) = P (X2 ≤ x)

P (−√x ≤ X ≤

√x) x ≥ 0

0 x < 0

により

fY (y) =

fX(√y) 1

2√y + fX(−√

y) 12√y y ≥ 0

0 y < 0

4.3. 期待値と分散 39

これより

E(Y ) =

∫yfY (y) dy

=

∫ ∞

0

y(fX(√y) + fX(−√

y))1

2√ydy

=

∫ ∞

0

yfX(sqrty)1

2√ydy +

∫ ∞

0

yfX(−√y)

1

2√ydy

=

∫ ∞

0

x2fX(x) dx+

∫ −∞

0

x2fX(x) (−dx)

=

∫x2fX(x) dx

ϕ(x) = etX のときには，y ≥ 0について

P (Y ≤ y) =

P (X ≤ 1t log y) t > 0

P (X ≥ 1t log y) t < 0

より

fY (y) =

fX( 1t log y)1ty t > 0

−fX( 1t log y)1ty t < 0

これより，t > 0ならば

E(Y ) =

∫yfY (y) dy

=

∫ ∞

0

yfX(1

tlog y)

1

tydy

=

∫etxfX(x) dx

t < 0でも同様に計算できる． 一般に Y = ϕ(X)は ϕが C1 級ならば

E(Y ) =

∫ϕ(x)fX(x) dx

が成立する．

問題 4.20 確率変数X1, . . . , Xn に対して

Σ =

V (X1) Cov(X1, X2) · · · Cov(X1, Xn)

Cov(X2, X1) V (X2) · · · Cov(X2, Xn)...

.... . .

...

Cov(Xn, X1) Cov(Xn, X2) · · · V (Xn)

を分散共分散行列という．この行列が対称行列であること，固有値がすべて非負であることを示してください．

40 第 4章 連続型確率論復習

解. 対称行列であることは Cov(X,Y ) = Cov(Y,X)より明らか．2次形式

(a1, . . . , an)Σ

a1...

an

が，確率変数 a1X1 + · · ·+ anXn の分散

V (

n∑i=1

aiXi) = E[(

n∑i=1

ai(Xi − E(Xi))2]

=

n∑i=1

n∑j=1

aiajE[(Xi − E(Xi)(Xj − E(Xj)]

= (a1, . . . , an)Σ

a1...

an

になっていることから非負定値であることがでる．

問題 4.21 E[|X − a|]および E[(X − a)2]を最小にする aを求めてください．

解. メディアンと期待値である．

d

daE(|X − a|) =

d

da

∫|X − a| dP

=d

da

(∫X>a

(X − a) dP ++

∫X≤a

(a−X) dP

)=

∫X>a

− dP +

∫X≤a

dP

= −P (X > a) + P (X ≤ a) = 2P (X ≤ a)− 1

したがって，最小になるのは P (X ≤ a) = 12 となる場合である．

E[(X − a)2] =

∫(X − a)2 dP

=

∫[(X − E(X)) + (E(X)− a)]2 dP

=

∫(X − E(X))2 dP + (E(X)− a)2

より，a = E(X)のときである．

4.4. モーメント毋関数 41

4.4 モーメント毋関数

M(t) = E[etX ] =

∫etxfX(x) dx

をモーメント毋関数という．これは密度関数の Laplace変換であり，特性関数は密度関数の Fourier変換であることがわかる．離散型と同様に

M(0) = 1, M ′(0) = E(X), M ′′(0) = E(X2)

定理 3 確率変数 X と Y がMX(t) = MY (t)をみたすならば，X と Y は同分布である．

特性関数の一意性 (Levyの反転公式)からこの証明ができる．

問題 4.22 正規分布 N(m, v)，指数分布 Exp(λ)のモーメント毋関数を求めて，期待値と分散を計算してください．

解.

M(t) 期待値 分散N(m, v) emt+vt2/2 m v

Exp(λ) λλ−t

1λ

1λ2

離散型と同様に，X1, . . . , Xn に対しては，t = (t1, . . . , tn)を用いて，X =

(X1, . . . , Xn)

MX (t) = E[etX ]

により定義する．X1, . . . , Xn が独立であることと

MX (t) =

n∏i=1

MXi(ti)

とは同値である．

問題 4.23 X1, X2, . . .を値 ±1を確率 12 ずつでとる独立な確率変数とする．

このとき，X = X1 + · · ·+Xnについて， X√nの特性関数を求めてください．

解.

M1(t) = E[etX1 ] =e−t + et

2

42 第 4章 連続型確率論復習

なので

MX/√n(t) = E[etX/n]

= MX (t√n)

=

n∏i=1

MXi(

t√n)

=

(e−t/

√n + et/

√n

2

)n

この式をテイラー展開すると

(1 +t2

n+ · · · )n → et

2

を得る．右辺は N(0, 2)のモーメント毋関数である．これは中心極限定理に対応している．ここで，E(Xi) = 0かつ V (Xi) = 2であることに注意すること．

問題 4.24 2項分布B(n, p)にしたがう確率変数Xにおいて，Xn および

X−np√npq

のモーメント毋関数を求め，その n → ∞の極限を求めてください．

解.

MX(t) = (etp+ q)n

であるから

MX/n(t) = E[etX/n] = (ent/np+ q)n

= ((1 +t

n+ · · · )p+ q)n

= (1 +pt

n+ · · · )n → ept

すなわち，X → pを示している．

M(X−np)/√npq(t) = E[et(X−np)/

√npq]

= MX(t

√npq

)e−tnp/√npq

= (et/√npqp+ q)ne−tnp/

√npq

= (((1 +t

√npq

+t2

2npq+ · · · )p+ q)(1− pt

√npq

+p2t2

2npq+ · · · ))n

= (1 +p2t2

2npq+

pt2

npq− p2

npq+ · · · )2

= (1 +t2

2n)n → et

2/2

4.5. その他の連続型確率分布 43

すなわち (X − np)/√npq → N(0, 1)を示している．

問題 4.25 (正規分布の再生性) XとY がそれぞれ正規分布N(m, v)とN(m′, v′)

にしたがい，独立なとき，X + Y はN(m+m′, v + v′)にしたがう．

解.

MX+Y (t) = E[et(X+Y )] = E[etX ]× E[etY ]

= exp[mt+vt2

2| × exp[m′t+

v′t

2]

= exp[(m+m′)t+(v + v′)t2

2]

これは，畳み込みでも証明できる．(x −m) + (y −m′) = s，y −m′ = tとおくとヤコビアンが 1に等しいことを用いる．

P (X + Y ≤ z) =1

2π√vv′

∫ ∞

−∞dx

∫ z−x

−∞dy e−(x−m)2/2v × e−(y−m′)/2v′

=1

2π√vv′

∫ z−(m+m′)

−∞ds

∫ ∞

−∞dt e−(s−t)2/2v−t2/2v′

=1

2π√vv′

∫ z−(m+m′)

−∞ds

∫ ∞

−∞dt exp[−v + v′

2vv′(t− v′s

v + v′)2 − vv′s2

(v + v′)2]

=1

2π√vv′

∫ z−(m+m′)

−∞exp[− s2

2(v + v′)]×√2π

vv′

v + v′ds

=1√

2π(v + v′)

∫ z−(m+m′)

−∞exp[− s2

2(v + v′)] ds

=1√

2π(v + v′)

∫ z

−∞exp[− (s− (m+m′))2

2(v + v′)] ds

4.5 その他の連続型確率分布(1) X1, . . . , Xn を独立で標準正規分布にしたがうとする．このとき

X21 + · · ·+X2

n

の確率分布を自由度 n− 1の χ2 分布という．

(2) X は標準正規分布にしたがい，Y が自由度 nの χ2 分布にしたがうとき， X√

Y/nの確率分布を自由度 nの t分布という．

44 第 4章 連続型確率論復習

(3) X,Y をそれぞれ自由度m,nの χ2分布にしたがい，独立とする．このとき

X/m

Y/n

の確率分布を自由度 (m,n)の F分布という．

それぞれの密度関数は1

2n/2Γ(n/2)xn/2−1e−x/2 (自由度 nの χ2 分布)

1√nB(n/2, 1/2)

(1 +

x2

n

)−(n+1)/2

(自由度 nの t分布)

2

B(m/2, n/2)

(mn

)m/2

xm/n−1(1 +

mx

n

)−(m+n)/2

(自由度 (m,n)の F分布)

問題 4.26 自由度 nの χ2 分布のモーメント毋関数は

MX(t) = (1− 2t)−n/2

に等しいことを示してください．

解. x(1/2− t) = yとおくと

MX(t) = E[etX ] =

∫ ∞

0

etx1

2n/2Γ(n/2)xn/2−1e−x/2 dx

=

∫ ∞

0

1

2n/2Γ(n/2)xn/2−1e−x(1/2−t) dx

=1

2n/2Γ(n/2)

∫ ∞

0

(y

1/2− t

)n/2−1

e−y dy

1/2− t

=1

2n/2Γ(n/2)(1/2− t)−n/2

∫ ∞

0

yn/2−1e−y dy

= (1− 2t)−n/2

定理 4 (コクランの定理) X1, . . . , Xn は標準正規分布 N(0, 1)にしたがい，独立とする．Y1, . . . , Yk はそれぞれランク n1, . . . , nk の 2次形式

Yi = (X1, . . . , Xn)Ai

X1

...

Xk

で表され，

X21 + · · ·+X2

n = Y 21 + · · ·+ Y 2

k

4.5. その他の連続型確率分布 45

をみたすとする．このとき，Y1, . . . , Ykが自由度 n1, . . . , nkの独立な χ2分布にしたがう必要十分条件は

n1 + · · ·+ nk = n

である．

証明. 自由度 nの χ2 分布のモーメント毋関数は (1 − 2t)−n/2 であるので，独立な自由度 n1, . . . , nk な χ2 分布にしたがう Y1, . . . , Yk に対して

MY1+···+Yk(t) =

k∏i=1

(1− 2t)−ni/2 = (1− 2t)−(n1+···+nk)/2

と自由度 n1 + · · · + nk の χ2 分布のモーメント毋関数に等しくなる．X21 +

· · ·+X2n = Y 2

1 + · · ·+ Y 2k より，

n = n1 + · · ·+ nk

をみたす．逆に

X =

X1

...

Xn

, Y =

Y1

...

Yk

と表すことにすると

Yi =tXAiX

とすると，n = n1 + · · ·+ nk より，ユニタリ行列

U =

U1 0 · · · 0

0 U2 · · · 0...

.... . .

...

0 · · · · · · Uk

が存在して

U−1

A1 0 · · · 0

0 A2 · · · 0...

.... . .

...

0 · · · · · · Ak

U = B

を対角行列 B にできる．一方

tY Y = tX

A1 0 · · · 0

0 A2 · · · 0...

.... . .

...

0 · · · · · · Ak

X

= tXUBU−1X

46 第 4章 連続型確率論復習

また，仮定より tY Y = tXX より，UBU−1 = E，すなわち B = U−1EU

は単位行列 E でなくてはならない．そこで，

U−1X = Z

とおくとtY Y = tZZ

と表せる．Z1, . . . , Zn の確率分布が標準正規分布にしたがい，独立であることを示せば良い．t = t(t1, . . . , tn)と s = Ut = t(s1, . . . , sn)とおくと

M(Z1,...,Zn)(t) = E[et1Z1···+tnZn ]

= E[e(t,Z)]

= E[e(Ut,UZ)]

= E[e(Ut,X)]

=

n∏i=1

E[esiXi ]

=

n∏i=1

exp[s2i /2]

= exp[(s, s)/2]

= exp[(U−1s, U−1s)/2]

= exp[(t, t)/2] = et21/2+···+t2n/2

は n個の独立な標準正規分布のモーメント毋関数である．これで，Z1, . . . , Zn

は独立で標準正規分布にしたがうことが示せた． X1, . . . , Xn を独立で標準正規分布にしたがうとする．このとき

X =X1 + · · ·+Xn

n

S2X =

1

n

n∑i=1

(Xi − X)2

S2X =

1

n− 1

n∑i=1

(Xi − X)2

と表す．コクランの定理より n(X)2,

∑ni=1(Xi − X)2 は独立でそれぞれ自由度 1と

n− 1の χ2 分布にしたがう．

A =

1/n · · · 1/n...

. . ....

1/n · · · 1/n

, B =

1− 1/n −1/n · · · −1/n

−1/n 1− 1/n · · · −1/n...

.... . .

...

−1/n −1/n · · · 1− 1/n

4.5. その他の連続型確率分布 47

これより√nX√∑

(Xi − X)/(n− 1)=

X√S2X/(n− 1)

=X√S2X/n

は自由度 n− 1の t分布にしたがう．

• Γ分布:Γ(p, a)

f(x) =ap

Γ(p)xp−1e−ax

平均 pa，分散

pa2，モーメント毋関数

(a

a−t

)p再生性 Γ(p, a) + Γ(q, a) = Γ(p+ q, a)

– 指数分布 Exp(λ)は Γ(1, λ)

– 自由度 nの χ2 分布は γ(n2 ,12 )

• β 分布: β(a, b)

f(x) =1

B(a, b)xp−1(1− x)b−1, (0 < x < 1)

平均 aa+b，分散

ab(a+b)2(a+b+1)

問題 4.27 U1, . . . , Unを独立で一様分布 U(0, 1)にしたがう確率変数とする．その順序統計量を U (1) ≤ U (2) ≤ · · · ≤ U (n)と並べ直すと U (k)の確率分布はβ(k, n− k − 1)であることを示してください．

解. 帰納法で確かめる．

P (U (n ≤ x) = P (U1 ≤ x, . . . , Un ≤ x) = xn

したがって，B(n, 1) =

Γ(n)Γ(1)

Γ(n+ 1)=

1

n

に注意すると，密度関数は

fU(n)(x) = nxn−1 =1

B(n, 1)× n−1C1x

n−1(1− x)1−1

また1

B(k, n− k + 1)=

Γ(n+ 1)

Γ(k)Γ(n− k + 1)=

n!

(k − 1)!(n− k)!

に注意する．そこで k + 1まで成立したとすると

P (U (k) ≤ x) = P (U (k+1) ≤ x) + nCkP (U1, . . . , Uk ≤ x,Uk+1, . . . , Un > x)

=

∫ x

0

n!

k!(n− k − 1)!tk(1− t)n−k−1 dt+

n!

k!(n− k)!xk(1− x)n−k

48 第 4章 連続型確率論復習

これを xで微分すると，U (k) の密度関数は

n!

k!(n− k − 1)!xk(1− x)n−k−1 +

n!

k!(n− k)!kxk−1(1− x)n−k

− n!

k!(n− k)!xk(n− k)(1− x)n−k−1

=n!

k!(n− k)!xk−1(1− x)n−k−1 ((n− k)x+ k(1− x)− (n− k)x)

=n!

(k − 1)!(n− k)!xk−1(1− x)n−k−1

=1

B(k, n− k + 1)xk−1(1− x)n−k−1

4.6 その他，統計に現れる確率分布• χ2 分布 (自由度 n)

f(x) =1

Γ(n/2)2n/2xn/2e−x/2, (x > 0)

標準正規分布にしたがう独立な n個の確率変数の和のしたがう確率分布，ガンマ分布 Γ(n2 ,

12 )である．

再生性: 自由度 nと自由度mの独立な χ2 分布の和は自由度 n+mのχ2 分布にしたがう．

• t分布 (自由度 n)

f(x) =1√

nB(1/2, n/2)

(1 +

x2

n

)−(n+1)/2

標準正規分布にしたがう確率変数 X とそれと独立な自由度 nの χ2 分布にしたがう確率変数 Y とするとき，

X√Y/n

のしたがう確率分布である．

• F分布 (自由度m,n)

f(x) =(m/n)m/2

B(m/2, n/2)xm/2−1(1 +

m

nx)−(m+n)/2, (x > 0)

4.6. その他，統計に現れる確率分布 49

自由度mの χ2 分布にしたがう確率変数 X と自由度 nの χ2 分布にしたがう確率変数 Y とするとき

X/m

Y/n

のしたがう確率分布である．

4.6.1 ガンマ分布，ベータ分布と他の確率分布の間の関係(1) 指数分布 Exp(λ)は Γ(1, λ)

(2) 自由度 nの χ2 分布は Γ(n2 ,12 )

(3) P (Po(λ) ≤ k) = P (Γ(k + 1, 1) > λ) = P (χ22(k+1) > 2λ)

(4) P (B(n, p) ≥ k) = P (β(k, n− k + 1) ≤ p)

(5) Γ(p1, a)/(Γ(p1, a) + Γ(p2, a)) = β(p1, p2)

(6) とくに a = 12 とおいて 1/(1 + (m/n)Fm,n) = β(m,n)

上の４と 6をあわせると

P (B(n, p) ≥ k) = P

(k

k + (n− k + 1)Fn−k+1,k≤ p

)これは 3とともに精密法で用いられる．

50

第5章 ルベーグ積分入門

連続型では期待値などはリーマン積分で定義されています．これを離散型と同様に

∫X dP とルベーグ積分に変えることが必要になります．そのため

には簡易型ルベーグ積分だけではうまくいきません．積分の定義をじっくり見直すことにしましょう．

5.1 準備確率空間 (Ω,B, P )の定義から始めましょう．Ωは何でも良いです．ただの

「集合」です．

定義 4 (σ–algebra) Bが σ–algebraとは

(1) ∅ ∈ B

(2) A ∈ B ⇒ Ac ∈ B

(3) A1, A2, . . . ∈ B ⇒⋃∞

n=1 An ∈ B

さりげない定義です．あまりに自然すぎて疑問が湧く余地がないと考えてしまいそうですが，それはルベーグのトリックに引っかかっています．まず簡単な問題

問題 5.1 なぜ，∅ ∈ Bでなければならないのか．

問題 5.2 A1, A2, . . . ∈ Bのとき，⋂∞

n=1 An ∈ B は成り立つか．

問題 5.3 B1,B2 を σ–algebraとします．B1 ∪ B2 が σ–algebraにならない例を作ってください．

問題 5.4 Bλをσ–algebra (λ ∈ Λ)とします．このとき，⋂

λ∈Λ Bλはσ–algebra

になることを示してください．添字の集合 Λは非可算集合でも構いません．

問題 5.5 Cを集合の族とします．Cを含む最小の σ–algebraが存在することを示してください．Hint:まず C を含む σ–algebraが 1つは存在することを示してから，C を含む σ–algebra全体を Bλλ∈Λ とおいて，その交わりをとればよい

5.1. 準備 51

本質的な問題です．

問題 5.6 (3)は A,B ∈ Bならば，A ∪B ∈ Bではなぜいけないのか．

問題 5.7 なぜ (3)は可算和に限定したのだろうか．

この問いの答えは今はでないでしょう．しかし必ず心に留めておいてください．

定義 5 P が確率とは

(1) A ∈ Bについて 0 ≤ P (A) ≤ 1かつ P (Ω) = 1

(2) A1, A2, . . . ∈ Bかつ Ai ∩Aj = ∅ (i = j)ならば

P (

∞⋃n=1

An) =

∞∑n=1

P (An)

問題 5.8 P (∅) = 0を示してください．

前の問題と同じ本質的な問題です．

問題 5.9 (2)はA,B ∈ BかつA∩B = ∅ならば，P (A∪B) = P (A)+P (B)

ではなぜいけないのか．

問題 5.10 なぜ (2)は可算和に限定したのだろうか．

この解は難しくありません．和は可算個までしかできませんものね．

定義 6 X : Ω → Rが確率変数であるとは，任意の a ∈ R について，ω ∈Ω: X(ω) ≤ a ∈ Bを満たすことである．

問題 5.11 X が可測ならば

(1) a ∈ Rについて，ω ∈ Ω: X(ω) < a ∈ B

(2) a ∈ Rについて，ω ∈ Ω: X(ω) > a ∈ B

(3) a ∈ Rについて，ω ∈ Ω: X(ω) ≥ a ∈ B

(4) a ∈ Rについて，ω ∈ Ω: X(ω) = a ∈ B

(5) a < bについて，ω ∈ Ω: a < X(ω) < b ∈ B

(6) a < bについて，ω ∈ Ω: a < X(ω) ≤ b ∈ B

(7) a < bについて，ω ∈ Ω: a ≤ X(ω) < b ∈ B

52 第 5章 ルベーグ積分入門

(8) a < bについて，ω ∈ Ω: a ≤ X(ω) ≤ b ∈ B

を示してください．逆に (1)から (3)のいずれかが成り立てば，X が可測であることを証明してください．(4)ではダメなの理由を考えてください．

問題 5.12 硬貨投げの確率変数X について

X−1(I)I は区間

が σ–algebraになることをしめしてください．

問題 5.13 2回硬貨投げX1, X2 について．

X−11 (I)

I は区間, X−12 (I)

I は区間

も σ–algebraになることをしめしてください．また

ω ∈ Ω: a1 ≤ X1(ω) < b1, a2 ≤ X1(ω) < b2

全体も σ–algebraになることをしめしてください．

5.2 確率分布(Ω,B, P )を確率空間，　X : Ω → Sを確率変数とします．Sにも σ–algebra

F があるとします．このとき，A ∈ F について，

X−1(A) = ω ∈ Ω: X(ω ∈ A

がすべてのA ∈ F について成り立つとき，Xを確率変数という (一般的には，可測関数)がもっとも抽象的な確率変数の定義なのです．今までの確率変数の定義は Aとして区間のみについて成り立つことを要請していましたが，区間全体を含む σ-algebraを F として，考えればいいということになります．通常は，区間全体を含む最小の σ–algebraまたはその完備化 (完備化について話す時間はなさそうです)を考えます．この場合，

µX(A) = Pω ∈ Ω: X(ω) ∈ A

によって，µX を考えると (S,F , µX)は確率空間になります．これを確率分布といいます．

問題 5.14 (S,F , µX)が確率空間になるには何を証明しなければいけませんか．

5.3. 積分の定義,その 1 53

問題 5.15 硬貨投げについて µを求めてください．そして∫X dP =

∫x dµX

であることを確かめてください．

問題 5.16 二項分布 B(n, p)の特性関数 ϕX(t) = E(eiX) =∫eitX dP が

ϕX(t) =

∫eitx dµX

をみたすことを確かめてください．それを用いて，

ϕ′X(0) = E(X)

であることを示してください．

X が連続型のときには∫g(x) dµX =

∫g(x) fX(x) dx

になることはルベーグ積分を定義した後に証明しましょう．それを用いて

問題 5.17

ϕX(t) =

∫eitx dµX , また ϕ′

X(0) = E(X)

は一般の連続型の確率変数の場合に成り立つだろうか．

5.3 積分の定義,その1

X を非負の値のみをとる確率変数とします．

An,k =

ω ∈ Ω: k

2n ≤ X(ω) < k+12n 0 ≤ k < 22n

ω ∈ Ω: X(ω) ≥ k+12n k = 22n

∅ k > 22n

と起きます．nが十分大きければ，ω ∈ An,k (k < 22n)ならばX(ω) ∼ k2n と

みなしてよいので，22n∑k=1

k

2nP (An,k)

は積分の値に近いとみなせ，さらにこれが単調増加であることから∫X dP = lim

n→∞

22n∑k=1

k

2nP (An,k)

54 第 5章 ルベーグ積分入門

と定義します．X が負の値もとるときには

X+(ω) = maxX(ω）, 0, X−(ω) = max−X(ω), 0

とおいて，∫X+ dP,

∫X− dP が共に有限ならば∫X dP =

∫X+ dP −

∫X− dP

として定義します．

5.4 積分の定義，その2∑ai1Ai の形をしている関数を単関数と呼びます．ここで ai ≥ 0,Ai ∈ B,

和は高々可算和とします．単関数の積分は常識的に考えても∫ ∑i

ai1AidP =

∑i

aiP (Ai)

で定義されます．非負の値をとる確率変数X の積分を∫X dP = sup

∫Y dP

で定義します．ここで上限は Y ≤ X をみたす単関数全体についてとります．

問題 5.18 2つの定義が等しいことを示すにはどうすればいいでしょうか．

問題 5.19 連続型の確率変数X について，その確率分布は I = [a, b]として

µ(I) =

∫ b

a

fX(x) dx

であること，またそれを用いて，その期待値は

E(X) =

∫X dP =

∫x dµX =

∫x fX(x) dx

に等しいことを示してください．fX はX の密度関数です．