確率論入門

黒木 玄

2017年7月5日版 (2017年7月5日作成)

要約. このノートでは, 測度論を可能な限り用いずに, 期待値汎函数 E[] に関する一般的な性質のみを仮定して, Jensenの不等式, 大数の(弱)法則, 中心極限定理を示す.

確率変数と確率

このノートにおいては, X1,X2,,Xn が(実数値の) 確率変数 の組であるとは, 実数 x1,x2,,xn の適切なクラス(この点はわざと曖昧にしておく)に属する複素数値函数 f=f(x1,x2,,xn) に対して複素数 E[f]=E[f(X1,X2,,Xn)] を対応させる汎函数 E[] が与えられていて, 以下の条件が成立していることであると定める:

  1. E[]線形 である. すなわち, 任意の f=f(x1,,xn), g=g(x1,,xn) と複素数 α,β に対して

    E[αf+βg]=αE[f]+βE[g]

    が成立している.

  2. E[]単調 である. すなわち, fg (すべての点でこの不等式が成立している)ならば E[f]E[g] が成立している.

  3. E[]規格化 されている. すなわち, 定数函数 c に対して E[c]=c が成立している.

f=f(X1,,Xn) をも確率変数と呼ぶことにする. E[] を確率変数の 期待値汎函数 と呼ぶ. E[f] を確率変数 f期待値 もしくは 平均 と呼ぶ.

以下, X1,,Xn は確率変数の組であると仮定する.

Rn の適切なクラス(この点はわざと曖昧なままにしておく)に属する部分集合 A に対して, A 上で 1 になり, A の外で 0 になる函数を 1A と書く:

1A(x1,,xn)={1((x1,,xn)A)0((x1,,xn)A).

(X1,,Xn)A となる 確率 P((X1,,Xn)A)
P((X1,,Xn)A)=E[1A]=E[1A(X1,,Xn)]

と定める. 01A1 なので, 期待値汎函数の単調性と規格化条件より, 確率は常に0以上1以下になることがわかる.

例. 期待値汎函数を

E[f(X)]=16k=16f(k)

と構成することによって、確率変数 X を定めることができる. このとき X{k} となる確率, すなわち X=k となる確率は
P(X=k)=16,k=1,2,3,4,5,6

になる. これは確率変数 X がサイコロの数学的モデル化になっていることを意味している. 例終

一般に実数列 a1,a2, と非負の実数列 p1,p2,k=1pk=1 を満たすものが与えられたとき,

E[f(X)]=k=1f(ak)pk

によって確率変数 X を定めることができる. このようにして定められた確率変数を 離散型確率変数 と呼ぶ. たとえば上のサイコロのモデル化は離散型確率変数である.

ρ(x1,,xn)0 以上の実数に値を持つ函数であり,

ρ(x1,,xn)dx1dxn=1

を満たしていると仮定する. ただし, 積分領域を省略して書いた場合には Rn 全域にわたる積分を意味すると約束しておく. このとき期待値汎函数を
E[f(X1,,Xn)]=f(x1,,xn)ρ(x1,,xn)dx1dxn

と定めることができる. このとき, (X1,,Xn)確率密度函数 ρ(x1,,xn) を持つと言う.

例. 確率変数 X

E[f(X)]=f(x)e(xμ)2/(2σ2)2πσ2dx

を満たしているならば, 確率変数 X は平均 μ, 分散 σ2正規分布に従う という. f(x) が多項式函数であれば期待値 E[f(X)] が有限の積分値として well-defined であるが, f(x)=ex2/σ2 のように遠方で急激に増大する函数についてはその期待値 E[f(X)] は無限大になってしまう. 例終

例. 確率変数 X

E[f(X)]=f(x)dxπ(1+x2)

を満たしているとき, XCauchy分布に従う という. このとき X の期待値
E[X]=1πxdx1+x2

は積分が絶対収束しないので well-defined ではない. 例終

Jensenの不等式

n=1X=X1 であるとする(X は確率変数).

f(x) が上に凸な函数であるとは任意の x,y と0以上1以下の t に対して

(1t)f(x)+tf(y)f((1t)x+ty)

が成立することだと定める. 逆向きの不等号で下に凸であることを定める. f<0 ならば f は上に凸であり, f>0 ならば f は上に凸である.

Jensenの不等式. f(x) が上に凸なとき

E[f(X)]f(E[X]).

f(x) が下に凸な場合には逆向きの不等式が成立する.

証明. f(x) は上に凸であると仮定し, μ=E[X] とおく. f(x) は上に凸なのである一次函数 a(xμ)+f(μ)

f(x)a(xμ)+f(μ)

を満たすものが存在する. ゆえに
E[f(X)]E[a(Xμ)+f(μ)]=a(E[X]μ)+f(μ)=f(E[X]).

1つ目の不等号は期待値汎函数の単調性より. 1つ目の等号は期待値汎函数の線形性と規格化条件より. 2つ目の等号は E[X]=μ より. これで示したい不等式が示された. f(x) が下に凸な場合も同様である. 証明終

注意. 0t1 のとき

E[f(X)]=(1t)f(a)+tf(b)

と定めると E[] は期待値汎函数の条件を満たしている. だから, 函数 f(x) が下にもしくは上に凸になるという条件はJensenの不等式の特別な場合になっている. すなわち, Jensenの不等式の主張は, 「Jensenの不等式の特別な場合が成立しているならば, Jensenの不等式が一般的に成立している」という形式になっている. 注意終

例. a1,,an>0 であるとし,

E[f(X)]=f(a1)++f(an)n

とおくと, E[] は期待値汎函数の条件を満たしている. ゆえに上に凸な函数 f(x)=logx に関するJensenの不等式より
loga1++logannloga1++ann.

左辺は log(a1an)1/n に等しく, logx は単調増加函数なので
(a1an)1/na1++ann.

Jensenの不等式から相加相乗平均の不等式が何の苦労も無しに出て来た! 例終

分散とChebyshevの不等式

X は確率変数であるとする.

X は平均 μ=E[X] と有限の 分散 σ2=E[(Xμ)2]>0 を持つと仮定する. σ=σ2>0X標準偏差 と呼ばれている.

a>0 に対して, 集合 A を次のように定める:

A={xR(xμ)2a2}

このとき
(xμ)2a21A(x)={a2((xμ)2a2)0(otherwise)

より, 期待値汎函数の単調性を使うと,
σ2=E[(Xμ)2]E[a21A]=a2P((Xμ)2a2).

したがって,
P((Xμ)2a2)σ2a2.

これを Chebyshevの不等式 と呼ぶ.

Chebyshevの不等式は

P(|Xμ|a)σ2a2.

と書き直せる. さらに, a=mσ とおくと
P(|Xμ|mσ)1m2.

これは確率変数 X の値がその平均から標準偏差の m 倍以上離れる確率が 1/m2 以下になることを意味している.

以上の結果は後で 大数の法則 を証明するために使われる. (このノートでは大数の法則として 法則のみを扱う.)

確率変数の組の同分布性と独立性

確率変数の組 X1,,Xn同分布 であるとは, 任意の i,j と任意の f(x) について

E[f(Xi)]=E[f(Xj)]

が成立することだと定める.

確率変数の組 X1,,Xn独立 であるとは, 任意の f1(x1),,fn(xn) に対して

E[f1(X1)fn(Xn)]=E[f1(X1)]E[fn(Xn)]

が成立することだ定める.

例. (X1,,Xn) が確率密度函数 ρ(x1,,xn) を持つとき,

ρ(x1,,xn)=ρ1(x1)ρn(xn)

が成立しているならば, X1,,Xn は独立になる. さらに ρi(x) がすべて互いに等しいならば X1,,Xn は同分布になる. 例終

確率変数の組 X1,,Xn が独立でかつ同分布 (independent and identically distributed, i.i.d.) であるとき, X1,,Xn はサイズ nサンプル (標本) の数学的モデル化としてよく使われている. そのとき

X1++Xnn

サンプル平均 (標本平均) と呼ばれる.

確率変数列 X1,X2, において任意の n について X1,,Xn が独立同分布であるとき, X1,X2,独立同分布確率変数列 であるという.

大数の法則

確率変数の組 X1,,Xn は独立同分布であるとし, XXk と同分布の確率変数であるとする.

X は平均 μ=E[X] と有限の 分散 σ2=E[(Xμ)2]>0 を持つと仮定する. σ=σ2>0 とおく.

X1,,Xn をサイズ n のサンプルとみなすとき, X は母集団分布に従う確率変数だとみなされ, 以上の μ,σ2,σ はそれぞれ 母集団平均, 母集団分散, 母集団標準偏差 と呼ばれる.

サンプル平均を

Mn=X1++Xnn

と書くことにする.

サンプル平均 Mn も確率変数になる. 確率変数はサイコロのようにランダムに値が変化する変数のことである. サンプル平均はサンプルのランダム抽出をやり直すごとに値が変化する確率変数である.

サンプル平均 Mn の期待値 μn と分散 σn2 を求めよう.

Mn の期待値は μ に一致する:

μn=E[Mn]=1nk=1nE[Xk]=1nnμ=μ.

Xk=Xkμ とおくと, E[Xk]=0 となり, Xk の分散が σ2Xk 達が独立であることより,

E[XkXl]={σ2(k=l)0(kl)

となる. ゆえに
σn2=E[(Mnμ)2]=E[(1nk=1nXk)2]=1n2k,l=1nE[XkXl]=σ2n.

すなわち, サンプル平均の分散は母集団分散のサンプルサイズ分の1になる. 特にサンプル平均の分散はサンプルサイズが大きくなると小さくなる.

Chebyshevの不等式をサンプル平均 Mn に適用すると, 任意の a>0 に対して

P(|Mnμ|a)σn2a2=1nσ2a2.

したがって特に
limnP(|Mnμ|a)=0.

これは、どんなに小さな a>0 に対しても, サンプル平均 Mn が母集団平均 μ から a 以上離れる確率がサンプルサイズを大きくする極限で0に近付くことを意味している.

これを 大数の弱法則 という.

正規分布の再生性

平均 0, 分散 1 の正規分布を 標準正規分布 と呼ぶ.

X が標準正規分布に従う確率変数ならば μR, σ>0 に対して Y=μ+σX は平均 0, 分散 σ の正規分布に従う. なぜならば

E[f(Y)]=E[f(μ+σX)]=f(μ+σx)ex2/22πdx=f(y)e(yμ)2/(2σ2)2πdyσ=f(y)e(yμ)2/(2σ2)2πσ2dy

3つ目の等号で x=(yμ)/σ とおいた. これは Y が平均 μ, 分散 σ2 の正規分布に従うことを意味する.

一般に確率変数 X の平均が 0 で分散が 1 のとき, Y=μ+σX は平均が 0 で分散が σ2 の確率変数になる.

X,Y は独立な確率変数の組であり, どちらも標準正規分布に従っていると仮定する. このとき任意の a,bR, (a,b)(0,0) に対して Z=aX+bY は平均 0, 分散 a2+b2 の標準正規分布に従う確率変数になる. この結果を 正規分布の再生性 という. その証明は以下の通り: a0 と仮定する.

E[f(Z)]=E[f(aX+bY)]=f(ax+by)e(x2+y2)/2(2π)2dxdy=f(z)e(z2+w2)/(2(a2+b2))(2π)2dzdwz2+b2=f(z)ez2/(2(a2+b2))(2π)22(a2+b2)πa2+b2dz=f(z)ez2/(2(a2+b2))2π(a2+b2)dz

3つ目の等号で
x=azbwa2+b2,y=bz+awa2+b2

とおくと,
ax+by=z,x2+y2=z2+w2a2+b2,dxdy=dzdwa2+b2

となることを使った. 4つ目の等号では w に関する積分を一般的に成立しているGauss積分の公式
ew2/αdw=απ(α>0)

を使って行った.

一般に独立な確率変数 X,Y の分散がそれぞれ σX2,σy2 のとき, X+Y の分散は σX2+σY2 になる.

正規分布の再生性から特に確率変数の組 Y1,,Yn が独立同分布でそれぞれが標準正規分布に従うとき,

Zn=Y1++Ynn

も標準正規分布に従うことがわかる. Y1++Yn は平均 0, 分散 n の正規分布に従い, それを n で割れば分散が 1 になる. この形での正規分布の再生性を中心極限定理の証明で利用する.

中心極限定理

確率変数達 X1,X2,Y1,Y2, の全体は独立であるとし, X1,X2, は独立同分布であり, Y1,Y2, も独立同分布であると仮定する. X, Y はそれぞれ Xk, Yk と同分布な確率変数であるとする.

k=1,2,3 に対して, E[Xk],E[Yk] は well-defined でかつ E[|Y|3],E[|Y|3] は有限の値になると仮定し, X, Y の分散はどちらも 0 でないと仮定する.

一般に平均 μ, 分散 σ2 の確率変数 X に対して X=(Xμ)/σ は平均 0, 分散 1 の確率変数になる. この事実を使って Xk, Yk たちを変換してそれらすべての平均と分散を 01 にできる. 以下ではこの状況を仮定する.

すなわち, E[Xk]=0, E[Xk2]=1, E[|Xk|3]<, E[Xk3] は well-defined と仮定し, Yk たちも同じ条件を満たしていると仮定する.

f(x) は有限区間の外で 0 になる C3 級函数であるとする.

補題. 以上の条件のもとで n のとき

E[f(X1++Xnn)]E[f(Y1++Ynn)]0

証明. Taylor の定理より,

f(a+h)=f(a)+f(a)h+f(a)h22+f(a+θa,hh)h36,

となる. ここで 0<θa,h<1 である.

f は有限区間の外で 0 になる C3 級函数なので, f(x) は有限区間の外で 0 になる連続函数になる. ゆえに |f(x)|/6 は最大値 M を持ち, 上のTaylor定理から得られた等式の右辺の最後の項の絶対値は M|h|3 以下になる.

Tayolorの定理から得られる公式を, 独立な確率変数の組 A,H,KE[H]=E[K]=0, E[H2]=E[K2]=1, E[|H|3],E[|K|3]CE[H3],E[K3] が well-defined なものに適用してみよう.

E[f(A+Hn)]=E[f(A)]+E[f(A)]E[H]n+E[f(A)]E[H2]2n+E[f(A+θA,H/nH/n)H3]6nn=E[f(A)]+E[f(A)]2n+E[f(A+θA,H/nH/n)H3]6nn.

最後の項の絶対値は次のように上からおさえられる:
|E[f(A+θA,H/nH/n)H3]6nn|MCnn.

以上をまとめると,
E[f(A+Hn)]=E[f(A)]+E[f(A)]2n+R,|R|MCnn.

同様の結果が K