AUTOMATIC HTML VERSION

中心極限定理:確率論その3のLaTeXML自動変換版です。自動検査には合格していますが、元PDFとの目視比較は未実施です。正本はPDF・TeXです。

中心極限定理

ナンブ キトラ
HTML変換日:2026年7月26日

この文書では 中心極限定理の証明を紹介する.

1 基本事項

ここらへんのことは [1]や[2] を参照しても良い.

定義 1.

位相空間Xに対して,Xの開集合系から生成される 完全加法族を𝔅⁢(X)と書くことにする. この集合族をボレル集合族と呼ぶ.

定義 2.

測度空間 (X,𝔐) 上の測度 μが 確率測度であるとは, μ⁢(X)=1 を満たすときにいう. μ が確率測度であるとき,測度空間 (X,𝔐,μ)を 確率空間と呼び, Xの元のことを 事象と呼ぶ.

定義 3.

確率空間 (X,𝔐,μ)から 可測空間(Y,𝔑)への可測写像可測写像を (Y,𝔑)-値確率変数と呼ぶ. あるいは紛れがないときには単に 確率変数と呼んだりもする.

定義 4.

確率空間 (X,𝔐,μ) とその上の確率変数fについて ∫Xf⁢𝑑μを 𝔼⁡(f)と書いたりする. 特に 𝔼⁡(f)を fの期待値と呼んだり, fの平均値と呼んだりする. そしてn∈ℤ≥1に対して, 𝔼⁡(fn)をfのn次モーメントと 呼んだりする. 𝔼⁡(fn)<∞であるときfはLn 関数とか言ったりするが,これは測度論と同じ言葉遣いである. また, 𝕍⁡(f)=𝔼⁡((f−𝔼⁡(f))2) をfの分散と呼ぶ. 簡単な式変形で 𝕍⁡(f)=𝔼⁡(f2)−(𝔼⁡(f))2 となることがわかる.

定義 5.

(X,𝔐,μ) を確率空間とし, (Y,𝔑) を可測空間とする. このとき可測写像ϕ:X→Yに対して 写像ϕ∗⁢μ:𝔑→[0,∞] を ϕ∗⁢μ⁢(A)=μ⁢(ϕ−1⁢(A)) と定義するとこれは (Y,𝔑)上の測度になる. この測度 ϕ∗⁢μ をϕによるμの押し出し測度と呼ぶ.

補題 6.

(X,𝔐,μ) を確率空間とし, (Y,𝔑) を可測空間とする. このとき可測写像ϕ:X→Yと 任意の可測関数f:Y→ℝについて

∫Xf⁢(ϕ⁢(x))⁢𝑑μ=∫Yf⁢(y)⁢d⁢(ϕ∗⁢μ)

が成り立つ.

定義 7.

ℝ上の𝔅⁢(ℝ)で定義された 一次元ルベーグ測度をℒ1と書くことにする.

補題 8.

(X,𝔐,μ)を確率空間とする. ϕ:X→[0,∞] を(X,𝔐)上の可測関数とする. そして新しく(X,𝔐)上の測度ν を

ν⁢(A)=∫Aϕ⁢𝑑μ

と定義する. すると X上の可測関数fについて

∫Xf⁢𝑑ν=∫Xf⁢ϕ⁢𝑑μ

が成り立つ.

証明.

単関数近似を使うとわかる. ∎

以下の定理の証明は[3]を参考にしても良い. 証明は省略する.

定理 9 (Prokhorov).

Xを可分完備距離化可能空間とし, 𝒮⊂𝒫⁢(X)とする. このとき以下は同値である.

  1. (1)

    𝒮は相対コンパクトである.

  2. (2)

    𝒮は緊密である.

以下の二つの補題については [4] を参考にしてもいい. 証明は省く.

補題 10 (ディリクレ積分).

以下が成り立つ.

limR→∞∫0Rsin⁡xx⁢𝑑x=π2

さらに

limR→∞∫0Rsin⁡(a⁢x)x⁢𝑑x={π2if ⁢a>0−π2if ⁢a<00if ⁢a=0

が成り立つ.

補題 11.

m∈[0,∞)で σ∈(0,∞) とする. fm,σ:ℝ→[0,∞)をN⁢(m,σ) の確率密度関数とする. つまり

fm,σ⁢(x)=12⁢π⁢σ2⁢exp⁡(−(x−m)22⁢σ2)

である. このとき

Fm,σ⁢(x)=∫ℝfm,σ⁢(y)⁢exp⁡(−1⁢x⁢y)⁢𝑑y

とおくことにする. このとき

∫ℝfm,σ⁢(y)⁢exp⁡(−1⁢x⁢y)⁢𝑑y=exp⁡(−1⁢m⁢x−σ2⁢x22)

つまり

Fm,σ⁢(x)=exp⁡(−1⁢m⁢x−σ2⁢x22)

となる. 特に

F0,σ=exp⁡(−σ2⁢x22)

であり,

F0,1=exp⁡(−x22)

である.

定義 12.

m∈[0,∞)で σ∈(0,∞) とし,

fm,σ⁢(x)=12⁢π⁢σ2⁢exp⁡(−(x−m)22⁢σ2)

とする.

(ℝ,𝔅⁢(ℝ)) 上の測度ν を

ν⁢(A)=∫Afm,σ⁢𝑑ℒ1

と定義する. この測度νを 平均がmで分散がσの正規分布 と言ったりする. 一般に確率空間(X,𝔐,μ) 上の確率変数f:X→ℝについて, 押し出し測度f∗⁢μが平均がmで分散がσの正規分布に一致するとき fは平均がmで分散がσの正規分布に従うなどと言ったりする.また,平均がmで分散がσの正規分布をN⁢(m,σ)で表し, fはN⁢(m,σ)に従うと言ったりもする.

定義 13 (分布関数).

(ℝ,𝔅)上の確率測度μに対して 関数Fμ:ℝ→ℝを Fμ⁢(x)=μ⁢((−∞,x]) と定義する.このFμを μの分布関数と呼ぶ 一般に確率空間 (X,𝔐,μ)とその上の確率変数fに対して, Ff∗⁢μをfの分布関数 と言ったりする.分布関数のことを 累積分布関数とも呼ぶ.

定理 14.

(ℝ,𝔅⁢(ℝ))上の二つの確率測度μ,νに対してFμ=Fν ならば,μ=νである.

証明.

任意の実数a,b∈ℝがa<bを満たすならば μ⁢((a,b])=Fμ⁢(b)−Fν⁢(a)であり, またν⁢((a,b])=Fν⁢(b)−Fν⁢(a) なので,Fμ=Fνであることから集合族{(a,b]∣a<b} の上でμとν は一致することがわかる.この集合族が生成する完全加法族は ボレル集合族に一致するのでμ=νである. ∎

2 特性関数

この節では確率測度の特性関数の定義と基本的な性質を紹介する.

定義 15.

μを (ℝ,𝔅⁢(ℝ))上の測度とする. このとき関数ϕμ:ℝ→ℝを

ϕμ⁢(x)=∫ℝexp⁡(−1⁢x⋅y)⁢𝑑μ⁢(y)

と定義する.この関数を μの特性関数と呼ぶ.

定理 16 (Lévyの反転公式).

μ∈𝒫⁢(ℝ) とする. 記述を簡単にするために ϕ=ϕμ, F=Fμとおく, このとき Fμ の任意の連続点a,bについて a<bならば

Fμ⁢(b)−Fμ⁢(a)=limR→∞12⁢π⁢∫−R+Rexp⁡(−−1⁢x⁢b)−exp⁡(−−1⁢x⁢a)−−1⁢x⁢ϕ⁢(x)⁢𝑑ℒ1⁢(x)

が成り立つ.

証明.

まず,Fubini—Toneliの定理から 任意のR>0について

∫−RRexp⁡(−−1⁢x⁢b)−exp⁡(−−1⁢x⁢a)−−1⁢x⁢ϕ⁢(x)⁢𝑑ℒ1⁢(x)
=∫−RR∫ℝexp⁡(−1⁢x⁢(t−b))−exp⁡(−1⁢x⁢(t−a))−1⁢x⁢𝑑μ⁢(t)⁢𝑑ℒ1⁢(x)
=∫ℝ∫−RRexp⁡(−1⁢x⁢(t−b))−exp⁡(−1⁢x⁢(t−a))−1⁢x⁢𝑑ℒ1⁢(x)⁢𝑑μ⁢(t)

が成り立つ.

ここで,関数

cos⁡(x⁢(t−b))−cos⁡(x⁢(t−a))x

は任意のt,a,bに対してxに 関して奇関数なので(さらにxに関して連続にもなる)

∫−RRcos⁡(x⁢(t−b))−cos⁡(x⁢(t−a))x⁢𝑑ℒ1⁢(x)=0

となる.ゆえに

∫−RRexp⁡(−1⁢x⁢(t−b))−exp⁡(−1⁢x⁢(t−a))−1⁢x⁢𝑑ℒ1⁢(x)
=∫−RRsin⁡(x⁢(t−a))−sin⁡(x⁢(t−b))x⁢𝑑ℒ1⁢(x)

が成り立つ. ここで,

fR⁢(a)=∫0Rsin⁡(a⁢x)x⁢𝑑ℒ1⁢(x)

と定義すると

∫−RRsin⁡(x⁢(t−a))−sin⁡(x⁢(t−b))x⁢𝑑ℒ1⁢(x)=2⁢(fR⁢(t−a)−fR⁢(t−b))

なので

∫−RRexp⁡(−−1⁢x⁢b)−exp⁡(−−1⁢x⁢a)−−1⁢x⁢ϕ⁢(x)⁢𝑑ℒ1⁢(x)
=2⁢∫ℝfR⁢(t−a)−fR⁢(t−b)⁢d⁢μ⁢(t)

である.

ディリクレ積分の式 (補題 10)

limR→∞fR⁢(a)={π2if ⁢a>0−π2if ⁢a<00if ⁢a=0

から, 任意のt,c∈ℝに関して

limR→∞fR⁢(t−c)=π2⁢(χ(c,∞)−χ(−∞,c))

が成り立つ. よって,supx|fR⁢(x)|<∞と優収束定理から

limR→∞∫−RRexp⁡(−−1⁢x⁢b)−exp⁡(−−1⁢x⁢a)−−1⁢x⁢ϕ⁢(x)⁢𝑑ℒ1⁢(x)
=limR→∞2⁢∫ℝfR⁢(t−a)−fR⁢(t−b)⁢d⁢μ⁢(t)
=π⁢∫ℝχ(a,∞)⁢(t)−χ(−∞,a)⁢(t)−χ(b,∞)⁢(t)+χ(−∞,b)⁢(t)⁢d⁢μ⁢(t)
=π⁢∫ℝχ(a,b]⁢(t)+χ[a,b)⁢(t)⁢d⁢μ⁢(t)
=π⁢∫ℝχ(a,b]⁢(t)+χ(a,b]⁢(t)+χ{a}⁢(t)−χ{b}⁢(t)⁢d⁢μ⁢(t)
=2⁢π⁢∫ℝχ(a,b]⁢(t)⁢𝑑μ⁢(t)=2⁢π⁢(F⁢(b)−F⁢(a))

ここで, pがFの連続点ならば ∫ℝχ{p}⁢(t)⁢𝑑μ⁢(t)=μ⁢({p})=0 であることを用いた. これで証明が終わる. ∎

注意.

定理の主要な等式は以下である.

Fμ⁢(b)−Fμ⁢(a)=12⁢π⁢limR→∞∫−R+Rexp⁡(−−1⁢x⁢b)−exp⁡(−−1⁢x⁢a)−−1⁢x⁢ϕ⁢(x)⁢𝑑ℒ1⁢(x)

この式は

Fμ⁢(b)−Fμ⁢(a)=12⁢π⁢∫ab∫ℝϕ⁢(x)⁢exp⁡(−−1⁢x⋅y)⁢𝑑ℒ1⁢(x)⁢𝑑ℒ1⁢(y)

とみなすことができる. 特性関数とはμの“確率密度関数”のフーリエ変換 であり,上の式はその特性関数をフーリエ逆変換してのちに[a,b]上で積分した量に等しいと考えることができるので,その値はF⁢(b)−F⁢(a)に等しいという観察ができる. しかし一般に特性関数は急減少関数などのフーリエ変換について良い振る舞いをする関数になるとは限らないので,

Fμ⁢(b)−Fμ⁢(a)=12⁢π⁢∫ab∫ℝϕ⁢(x)⁢exp⁡(−−1⁢x⋅y)⁢𝑑ℒ1⁢(x)⁢𝑑ℒ1⁢(y)

が成り立つのかどうか,もしくはそもそも ϕ⁢(x)がℝ上で可積分かどうかすらわからないので, 上の観察を少し修正して,上の定理の様に主値積分で累積分布関数の情報を引き出す必要があったわけである.

補題 17.

以下の不等式が成り立つ.

3<π<4

特にπ/4<1であり,2<π/2 である.

証明.

関数fを f⁢(t)=(1−t2)−1/2と定義する. t∈[0,1/2] のとき, 1≤f⁢(t)≤2/3≤4/3 である. さらに1<f⁢(t)<4/3となる点t∈[0,1/2] が存在する.例えばt=1/4においてこの不等式が成り立つ. 関数f⁢(t)は連続だから,

π6=∫01/211−t2⁢𝑑t>∫01/2𝑑t=12

なので,3<πがわかる. また,

π6=∫01/211−t2⁢𝑑t<∫01/243⁢𝑑t=23

なので π<4がわかる. これらの積分の不等式において 真の不等式が得られるのは fが連続であり, 1<f⁢(t)<4/3となるtが存在するからである. ∎

補題 18.

実数aが |a|≥1を満たすならば,

|sin⁡a|≤|a|⁢sin⁡(1)

が成り立つ.

証明.

0≤aのときだけ証明すれば良い. f⁢(x)=x⁢sin⁡(1)−sin⁡xとおく. x∈[π/4,π/2]のとき f′⁢(x)=sin⁡(1)−cos⁡x の符号を調べる. π/4<1 なので,1/2<sin⁡1 であり, [π/4,π/2] 上ではcos⁡xは単調減少なので f′⁢(x)=sin⁡(1)−cos⁡x>0 である. そしてf⁢(1)=0なので, x∈[1,π/2] のとき 0<f⁢(x)である. 1sin⁡(1)<2<π2 なので,特にπ/2<xならば,x⁢sin⁡1>1 であるから,この場合も0<f⁢(x) が成り立つ. よって1≤xならばsin⁡x≤x⁢sin⁡(1) である. ∎

命題 19.

任意の μ,ν∈𝒫⁢(ℝ) について ϕμ=ϕν ならばμ=ν である.

証明.

定理 16より ϕμ=ϕν ならば,可算個の点を除いた 全てのx,a∈ℝについて Fμ⁢(x)−Fμ⁢(a)=Fν⁢(x)−Fν⁢(a)である. a→−∞とするとFμもFν も0に限りなく近づくので可算個の点を除いた全ての x∈ℝでFμ⁢(x)=Fν⁢(x)である. 分布関数は右連続な単調関数なので, 結局すべての点x∈ℝで Fμ⁢(x)=Fν⁢(x)となる. ゆえに定理 14 よりμ=νとなる. ∎

命題 20.

点列 {μn}n∈ℤ≥0⊂𝒫⁢(ℝ) とμ∈𝒫⁢(ℝ) について μn⟹μ とϕμn→ϕμ (各点収束) は同値である.

証明.

弱収束 μn⟹μ が成り立つ ならば ϕμn→ϕμ (各点収束) となること は定義からすぐにわかる. 逆を示そう. 記述を簡単にするために ϕ=ϕμ, ϕn=ϕμn とおくことにする. まず{μn}の緊密性を示そう. M∈(0,∞)とする. 今から

μn⁢({x∈ℝ∣|x|≥M})

を評価する. 任意のϵ∈(0,∞)⁢と十分大きいMと十分大きい N∈ℤ≥0 についてn>Nならば μn⁢({x∈ℝ∣|x|≥M})≤ϵ を満たすことを示せれば {μn}n∈ℤ≥0 が緊密であることがわかる. |x|≥M について |x|/M≥1なので補題から, sin⁡(|x|/M)≤|x|/M⁢sin⁡(1) であるから,

1≤11−1sin⁡(1)⁢(1−sin⁡(x/M)x/M)

が成り立つ. c=(1−1/sin⁡(1))−1 と置くと,

1≤c⁢(1−sin⁡(x/M)x/M)

となる. よって,

χ{|x|≥M}≤c⁢(1−sin⁡(x/M)x/M)

なので, 任意のn∈ℕについて

μn⁢({x∈ℝ∣|x|≥M})≤c⁢∫ℝ(1−sin⁡(x/M)x/M)⁢𝑑μn

を得る. さて, x∈ℝのとき,

12⁢∫−11exp⁡(−1⁢x⁢y)⁢𝑑ℒ1⁢(y)=[12⁢−1⁢x⁢exp⁡(−1⁢x⁢y)]y=−1y=1=sin⁡xx

が成り立つので,

∫ℝ(1−sin⁡(x/M)x/M)⁢𝑑μn⁢(x) =∫ℝ(1−12⁢∫−11exp⁡(−1⁢xM⁢y)⁢𝑑ℒ1⁢(y))⁢𝑑μn⁢(x)
=μn⁢(ℝ)−12⁢∫−11ϕn⁢(yM)⁢𝑑ℒ1⁢(y)
=1−M2⁢∫−1/M1/Mϕn⁢(y)⁢𝑑ℒ1⁢(y)

がわかる. ここで

I⁢(M)=1−M2⁢∫−1/M1/Mϕ⁢(y)⁢𝑑y
Jn⁢(M)=M2⁢∫−1/M1/Mϕ⁢(y)−ϕn⁢(y)⁢d⁢y

とおけば,

μn⁢({x∈ℝ∣|x|≥M})≤c⋅I⁢(M)+c⋅Jn⁢(M)

である. さて,ϕは ϕ⁢(0)=1であり連続だから,積分の平均値の定理から I⁢(M)→0⁢(M→∞)となる.つまり, 任意のεに対して, δが存在して, |x|<δならば|ϕ⁢(x)−1|<ε/2⁢c となる.このことからMを δ−1<Mを満たすように大きくとれば,

|I⁢(M)|≤ε/2

が成り立つ.

次にJn⁢(M)を評価する. Mを固定して考える. ϕnはϕ に各点収束している. また,各μnが確率測度であることと, 特性関数の定義から [−1/M,1/M] 上では{ϕn} は一様有界である(特にnによらず定数1で上から抑えられる). 有界収束定理から,

∫−1/M1/Mϕn⁢(y)⁢𝑑y→∫−1/M1/Mϕ⁢(y)⁢𝑑y

が成り立つので,Nを十分大きく取ればn>Nのとき Jn⁢(M)<ε/2⁢cとなる. 以上から十分大きい MとN∈ℕ を取れば, n>Nとなるnについて μn⁢(ℝ∖[−M,M])≤ε となるから, 列{μn}n∈ℕ は緊密になる. Prokhorovの定理(定理 9)から,{μn}n∈ℕ は弱収束の位相について 相対コンパクトである. さて,{μn}n∈ℕ の任意の部分列{μnk}をとると,これもやはり相対コンパクトなので, 収束する部分列が取れる. その部分列の収束先をν∈𝒫⁢(X) とすると,仮定から ϕν=ϕμ がわかる. 命題 19から,ν=μ が結論されるので,結局{μn}n∈ℕ の任意の部分列は収束する部分列が存在し,その収束先は全てμ である.よって元の列{μn}n∈ℕ はμに収束する. ∎

応用として正規分布の再生性などを証明する.

定理 21.

(X,𝔐,μ) を確率空間とし, fをその上の確率変数で N⁢(m,σ2) に従うとする. このときa⁢f+bは N⁢(a⁢m+b,a2⁢σ2) に従う.

証明.

g=a⁢f+bとおく. すると

ϕg⁢(x) =∫ℝexp⁡(−1⁢x⋅y)⁢𝑑g∗⁢μ⁢(y)=∫ℝexp⁡(−1⁢x⋅g⁢(t))⁢𝑑μ⁢(t)
=∫ℝexp⁡(−1⁢x⋅(a⁢f⁢(t)+b))⁢𝑑μ⁢(t)
=exp⁡(−1⁢x⁢b)⁢∫ℝexp⁡(−1⁢a⁢x⋅f⁢(t))⁢𝑑μ⁢(t)
=exp⁡(−1⁢x⁢b)⁢∫ℝexp⁡(−1⁢(a⁢x)⋅y)⁢𝑑f∗⁢μ⁢(y)
=exp⁡(−1⁢x⁢b)⁢∫ℝexp⁡(−1⁢(a⁢x)⋅y)⁢𝑑f∗⁢μ⁢(y)
=exp⁡(−1⁢x⁢b)⋅exp⁡(−1⁢a⁢m⁢x−a2⁢σ2⁢x22)
=exp⁡(−1⁢(a⁢m+b)⁢x−a2⁢σ2⁢x22)

となる. これはN⁢(a⁢m+b,a2⁢σ2) の特性関数なので,定理が成り立つことがわかる. ∎

定理 22.

(X,𝔐,μ) を確率空間とし, f,gをその上の独立な確率変数で それぞれ N⁢(m1,σ12) と N⁢(m2,σ22) に従うとする. このときf+gは N⁢(m1+m2,σ12+σ22) に従う.

証明.

h=f+gとおくすると

ϕg⁢(x) =∫ℝexp⁡(−1⁢x⋅y)⁢𝑑h∗⁢μ⁢(y)=∫ℝexp⁡(−1⁢x⋅h⁢(t))⁢𝑑μ⁢(t)
=∫ℝexp⁡(−1⁢x⋅(f⁢(t)+g⁢(t)))⁢𝑑μ⁢(t)
=∫ℝexp⁡(−1⁢x⋅f⁢(t))⋅exp⁡(−1⁢x⋅g⁢(t))⁢𝑑μ⁢(t)
=∫ℝexp⁡(−1⁢x⋅f⁢(t))⁢𝑑μ⁢(t)⋅∫ℝexp⁡(−1⁢x⋅g⁢(t))⁢𝑑μ⁢(t)
=ϕf⁢(x)⋅ϕg⁢(x)=exp⁡(−1⁢m1⁢x−σ12⁢x22)⋅exp⁡(−1⁢m2⁢x−σ22⁢x22)
=exp⁡(−1⁢(m1+m2)⁢x−(σ12+σ22)⁢x22)

これは N⁢(m1+m2,σ12+σ22) の特性関数なので,定理が従う. ∎

3 中心極限定理

このセクションでは 中心極限定理を証明する.

まずは次の初等的な補題を示そう.

補題 23.

0でないa∈ℂに収束する 数列{an}⊂ℂと 0に収束する数列{bn}⊂ℂ について,limn→∞annが存在するならば,

limn→∞(an+bnn)n=limn→∞ann

が成り立つ.

証明.

a≠0なので anは十分大きい番号でan≠0である. これを使って

(an+bnn)n=ann⁢(1+bn/ann)n

が成り立つので anが恒等的に1の場合に補題を証明すれば良い. 二項定理により

(1+bnn)n−1=∑k=1n(nk)⁢bnknk

である. ところで,各kについて

(nk)⁢|bn|knk≤n⋅(n−1)⁢⋯⁢(n−k+1)1⋅2⁢⋯⁢k⁢|bn|knk≤|bn|kk!

である. ここで,exp⁡(x)−1と|bn|, 0に対してテイラーの定理を用いると, cn∈(0,|bn|)が存在して

exp⁡(|bn|)−1=∑i=1n|bn|kk!+|bn|n+1(n+1)!⁢exp⁡(cn)

であるから,

|(1+bnn)n−1|≤∑k=1n(nk)⁢|bn|knk≤∑k=1n|bn|kk!≤−(exp⁡(|bn|)−1)+|bn|n+1(n+1)!⁢exp⁡(cn)

である.ここで,n→∞のとき|bn|→0, exp⁡(|bn|)→1と1/(n!)→0なので,

−(exp⁡(|bn|)−1)+|bn|n+1(n+1)!⁢exp⁡(cn)→0

がわかる.このことから補題が示された. ∎

中心極限定理は以下の定理である.

定理 24.

(X,𝔐X,μ) を確率空間とする. そして{fn}n∈ℕ をこの確率空間上の独立な可測関数で, 同分布に従い,m=𝔼⁡(f1)<∞ v=𝕍⁡(f1)<∞ とする. このとき,

Zn=∑i=1n(fi−m)v⁢n

で定義される可測関数列{Zn}n∈ℕ はN⁢(0,1)に法則収束する.

証明.

最初からm=0でv=1としても良い. ϕnを(fn)∗⁢μの特性関数とする. このときfi達は同分布に従うので ϕn=ϕ1である. この関数を単にϕで表すことにする. v<∞なので 各fiはL2であるから,優収束定理から ϕはC2級関数であり,

ϕ⁢(0)=1,dd⁢x⁢ϕ⁢(0)=0,d2d⁢x2⁢ϕ⁢(0)=−1

が満たされる. よって テイラーの定理から 任意のx∈ℝについて,|t⁢(x)|≤|x|となるt⁢(x)が 存在して

ϕ⁢(x)=1+12⁢x2⁢ϕ′′⁢(t⁢(x))

を満たす. (Zn)∗⁢μの特性関数をϕZn で表すことにする.すると

ϕZn⁢(x) =∫ℝexp⁡(−1⁢x⋅y)⁢d⁢((Zn)∗⁢μ)⁢(y)=∫Xexp⁡(−1⁢x⋅Zn⁢(t))⁢𝑑μ⁢(t)
=∫Xexp⁡(−1⁢x⋅∑i=1nfi⁢(t)n)⁢𝑑μ⁢(t)
=∫X∏i=1nexp⁡(−1⁢x⁢fi⁢(t)n)⁢d⁢μ⁢(t)

となる. fi達の独立性から各xについて exp⁡(−1⁢x⁢fi⁢(t))達も独立になるので

∫X∏i=1nexp⁡(−1⁢x⁢fi⁢(t)n)⁢d⁢μ⁢(t) =∏i=1n∫Xexp⁡(−1⁢xn⁢fi⁢(t))⁢𝑑μ⁢(t)
=∏i=1n∫ℝexp⁡(−1⁢xn⁢y)⁢d⁢((fi)∗⁢μ)⁢(y)
=(ϕ⁢(xn))n

となる. まとめると

ϕZn⁢(x)=(ϕ⁢(xn))n

である. ここでt⁢(x/n)=t⁢(x,n)と書くことにすると,

ϕZn⁢(x)=(1+12⁢n⁢x2⋅ϕ′′⁢(t⁢(x,n)))n=(1−12⁢x2+12⁢n⁢x2⁢(ϕ′′⁢(t⁢(x,n))+1))n

と表すことができる. 点 x∈ℝを固定する. このとき |t⁢(x,n)|≤x/nであるから limn→∞t⁢(x,n)=0となる. すると an=1−12⁢n⁢x2, bn=12⁢x2⁢(ϕ′′⁢(t⁢(x,n))+1)と考えて 先の補題 23を適応できて,

limn→∞(1−12⁢n⁢x2+12⁢n⁢x2⁢(ϕ′′⁢(t⁢(x,n))+1))n=limn→∞(1−1n⁢x22)n=exp⁡(−12⁢x2)

を得る. exp⁡(−12⁢x2) は正規分布N⁢(0,1)の特性関数であるから この式は ϕZn は正規分布N⁢(0,1)の特性関数に各点収束することを意味する. よって,ZnはN⁢(0,1)に法則収束する. ∎

4 中心極限定理の別証明

この節では中心極限定理の特性関数を使わない別証明を紹介する.

4.1 与えられた確率変数列と同じ分布を持つ独立確率変数の存在と構成

確率論においては,確率空間そのものよりも確率変数を主体と考えて 確率空間を明記せず確率変数を扱うことが多い.これは確率変数を考えるにおいて それが定義されている確率空間の確率測度ではなくそれを確率変数によって押し出しをしたℝ上の測度,つまり確率変数の分布を主に扱うためであろう. 確率変数の定義されている確率空間の測度が何であろうと,結局ℝに押し出して考えるので, 確率変数とℝ上の確率測度を集中して扱えば良いというわけである. こうした考え方はある種の利点であるとも考えられるのだが, 普段は確率論や統計学以外の数学を扱っている人物に関してはこうした取り扱いというものは,命題の中で具体的に何を扱っているのかという事象の把握において それなりの不安感を与えるものになるだろう. 例えば,中心極限定理の仮定に出てくる同分布独立な確率変数などがそうである. しかしそうした不安というものはやろうと思えば数学的にきちんと処理できるものである(なのであんまり気にしなくて良いという考え方もある). この節ではまず最初に同分布独立な確率変数の存在,もしくは構成を数学的な意味で厳密にとり行う.

定理 25.

(X,𝔐,μ)を 確率空間とする. I,Jを可算集合かもしくは有限集合とする. {fi}i∈Iを (X,𝔐,μ) 上の独立な確率変数とする. αをℝ上の確率ボレル測度とする. このとき確率空間 (Y,𝔑,ν) とこの上の二つの確率変数の列 {ϕi}i∈I と {ψj}j∈J, そして可測写像 π:X→Yが存在して 以下を満たす.

  1. (1)

    {ϕi}i∈Iは独立である.

  2. (2)

    {ψj}j∈Jは独立である.

  3. (3)

    {ϕi,ψj}i∈I,j∈J は独立である.

  4. (4)

    π∗⁢μ=ν

  5. (5)

    任意のi∈Iについて ϕi∘π=fi が成り立つ.

  6. (6)

    任意のi∈I について(fi)∗⁢(μ)=(ϕi)∗⁢(ν) が成り立つ.

  7. (7)

    任意のj∈Jについて (ψj)∗⁢(ν)=αが成り立つ.

証明.

Y=X×∏j∈Jℝ とおき, 𝔑=𝔐⊗⨂𝔅⁢(ℝ)として (Y,𝔑)上の測度を

ν=μ⊗⨂j∈Iα

と定義する.

ϕi:Y→ℝを (x,(rj)j∈J)∈Y=X×∏j∈Jℝに対して ϕi⁢((x,(rj)j∈J))=fi⁢(x) と定義する.

ψj:Y→ℝをYから第j成分への射影とする. つまりψj⁢(x,(rk)k∈J)=rjとする.

πをYからXへの射影とする.

まず(1)を証明しよう. ϕiの定義から任意のA∈𝔅⁢(ℝ) について ϕi−1⁢(A)=fi−1⁢(A)×∏j∈Jℝ なので,fi達の独立性から{ϕi}i∈I の独立性がわかる.

(2)を示そう. A∈𝔅⁢(ℝ)に対して ψj−1⁢(A)=X×A×∏k∈J,k≠jℝ なので,直積測度の定義から独立性がわかる.

(3)を示そう. ϕi−1⁢(A)=fi−1⁢(A)×∏j∈Jℝと ψj−1⁢(A)=X×A×∏k∈J,k≠jℝ, そして直積測度の定義からわかる

(4)は直積測度の定義からわかる.

(5)はϕiの定義からわかる.

(6)は ϕi−1⁢(A)=fi−1⁢(A)×∏j∈Jℝ からわかる.

(7)はψjが射影であることと, 直積測度の定義からわかる.

∎

上の定理で特にI=∅とした場合に次の系が得られる.

系 26.

αを(ℝ,𝔅⁢(ℝ))上の 確率測度とする.Jを可算集合か有限集合とする. このとき 確率空間(X,𝔐,μ) とこの上の確率変数の列{hj}j∈J が存在して,この列は独立同分布でその分布は αに等しい.

4.2 中心極限定理の別証明

補題 27.

{(Xn,𝔐n,μn)}n∈ℤ≥0を確率空間として, ϕnは(Xn,𝔐n) 上の確率変数とする. ψは(ℝ,𝔅⁢(ℝ)) 上の確率変数とする. Sを(Cb⁢(ℝ,ℝ),∥∗∥∞)の稠密部分集合とする. を満たす. このとき 任意のf∈Sに対して

limn→∞𝔼⁡(f⁢(ϕn))=𝔼⁡(f⁢(ψ))

が成り立つならばϕn はψに法則収束する.

証明.

ϵ∈(0,∞) を任意に与える. ν=ψ∗⁢ℒ1 とおく. 任意にf∈Cb⁢(ℝ,ℝ) を与える. 仮定から∥f−g∥<ϵ となるg∈S が存在する. このことから 任意のnについて |𝔼⁡(f⁢(ϕn))−𝔼⁡(g⁢(ϕn))|≤ϵ と |𝔼⁡(f⁢(ψ))−𝔼⁡(g⁢(ψ))|≤ϵ が成り立つ. また仮定より,十分大きいnについて |𝔼⁡(g⁢(ϕn))−𝔼⁡(g⁢(ψ))|<ϵ となる. よって

|𝔼⁡(f⁢(ϕn))−𝔼⁡(f⁢(ψ))|≤3⁢ϵ

となる. 以上からϕnはψに法則収束することがわかる. ∎

定理 28.

(X,𝔐,μ) を確率空間とし,fnを その上の独立同分布な確率変数の列で 平均値が0,分散が1とする. このとき新たに確率変数の列θn を

θn=f1+⋯+fnn

と定義する. するとθnは正規分布に法則収束する.

証明.

補題を用いてϕn と,正規分布に従う確率変数の列ψn をとる. そして新たに確率変数を

ζn,i=ϕ1+⋯+ϕi−1+ψi+1+⋯+ψnn
ηn,i=ϕ1+⋯+ϕi+ψi+1+⋯+ψnn

と定義する. ここでζn,iの定義にϕiが含まれていないのは誤植ではなく, そういう定義である.後程ζn,iとϕiが 独立であることを使う. さて正規分布の再生性からηn,0が 正規分布に従うことに注意しよう. 証明の方針としてはηn,nがηn,0 に法則収束することを示すのだが, そのためにηn,iがηn,i−1に法則収束することを ζn,iをうまく利用して証明する.これをn段階繰り返せば 中心極限定理が証明できるわけである. SをCb⁢(ℝ,ℝ)のC∞級関数全体とする. SはCb⁢(ℝ,ℝ)の中で稠密になっていることに注意しよう(軟化子を使う). 任意のf∈Sについて 𝔼⁡(f⁢(ηn,n))が𝔼⁡(f⁢(ηn,0)) に収束することを示せばよい. まず確率変数を

κn,i=f⁢(ηn,i)−f⁢(ζn,i)−f(1)⁢(ζn,i)⋅ϕin−f(2)⁢(ζn,i)⋅ϕi22⁢n

と定義する. 二階微分に関するテイラーの定理からあるτn,i が存在して

κn,i=(f(2)⁢(τn,i)−f(2)⁢(ζn,i))⋅ϕi22⁢n

が成り立つ.この式は実際は各y∈Yに対してκn,i⁢(y) と書くべきだが,省略して書いている. 任意にϵ∈(0,∞)を与える. するとf(3)は有界なのである δが存在して δ⋅supt∈ℝ|f(3)⁢(t)|<ϵ となる. すると|x−y|<δならば |f(2)⁢(x)−f(2)⁢(y)|<ϵ となる. A={x∈Y∣|ϕi⁢(y)|≤δ⁢n} とする. このとき

𝔼⁡(|κn,i|⋅χA)≤ϵ2⁢n⁢𝔼⁡(ϕi2)=ϵ2⁢n

となる.また, M=sup|f(2)| とおくと

𝔼⁡(|κn,i|⋅χY∖A)≤Mn⁢𝔼⁡(|ϕi|⋅χY∖A)

となる. Aはnに依存しているが, n→∞とするとχY∖A→0 となる. 十分大きいnを取れば 𝔼⁡(|ϕi|⋅χY∖A)≤ϵ/2⁢(M+1) となる. また

f⁢(ηn,i)−f⁢(ζn,i)−f(2)⁢(ζn,i)⋅ϕi22⁢n=κn,i+f(1)⁢(ζn,i)⋅ϕin

なので,

|𝔼⁡(f⁢(ηn,i))−𝔼⁡(f⁢(ζn,i))−𝔼⁡(f(2)⁢(ζn,i)⋅ϕi22⁢n)| ≤|𝔼⁡(κn,i)|+|𝔼⁡(f(1)⁢(ζn,i)⋅ϕin)|
≤ϵn+|𝔼⁡(f(1)⁢(ζn,i)n)|⋅𝔼⁡(ϕi)
=ϵn

を得る. 同じ論法がηn,i−1 とζn,i にも適応できるので

|𝔼⁡(f⁢(ηn,i−1))−𝔼⁡(f⁢(ζn,i))−𝔼⁡(f(2)⁢(ζn,i)⋅ϕi22⁢n)|≤ϵn

となる. よって,

|𝔼⁡(f⁢(ηn,i−1))−𝔼⁡(f⁢(ηn,i))|≤2⁢ϵn

を得る. ゆえに

|𝔼⁡(f⁢(ηn,0))−𝔼⁡(f⁢(ηn,n))|≤2⁢ϵ

となるので,中心極限定理が示された. ∎

5 注釈

5.1 動的概念と静的概念

まず結論から話すと,理由は知らないが,まあとにかく数学は静的概念しか扱えないということである. 言いたいことがあんまり纏まってないので,確率変数が出てくるところから読むといいと思います.

ここからの文章で用いる「動的概念」とは何かしらの一連の動きや働きそのものを指し示す概念付けのことを指す. 例えば物体の運動というものも運動という一連の動きを指し示すものとして概念付けされている. 一方で「静的概念」とは動的概念ではないもののことである. 我々の世界は時間変化するので,この静的概念の具体例を挙げるのはとても難しいのだが,1+1=2は静的概念であるし, 何かしらの留保はつくかも知れないが,りんごは赤色であるという言及もまあ多分静的概念である.このように例示をすると, そもそも静的概念というのは観念の中にしかないものであるから,一番最初に言った結論が成り立つのは当然のことなのかも知れない.どちらかというと,静的概念がどうなっているのかということよりは,動的概念がどうなっているのかということがこれからの作用点になる. 動的概念は現実世界だけではなく,我々の頭の中,観念の中にも現れる.ここからやっと数学の話になります. 高校数学においては極限の定義は以下のように行う. つまり,数列a0,a1,…,an,… がaに収束するとは番号iを大きくして行ったときに aiがどんどんaに近づくときにいう. 他方で大学などでは以下のように定義する. つまり数列{ai}i∈ℤ≥0 がaに収束するとは, 任意のϵ>0に対してN∈ℤ≥0 が存在して任意のn∈ℤ≥0 がn≥Nを満たすならば |an−a|<ϵ を満たすという定義になる. この二つの概念はそれぞれ動的概念と静的概念になっている. 前者はどんどん近づくという定義付けをしている. なぜかは知らないがこの定義の仕方だと厳密に扱えないみたいなので,大学では後者のように静的に定義する. 後者においてはどんどん近づくという観念は身を潜め, 何かϵを与えたら十分大きい番号全てで |an−a|<ϵという言い方になっている. どんどん近づくという言い方をせずに十分大きい番号 すべてでanとaの差が与えられたϵ の範囲に収まるという言い換えをすることによって動的概念を排除している.さて一番最初に話に戻るが,この収束の話において,「収束の概念を厳密に扱うためにはイプシロンデルタ論法」が必要という言い方がされるが, これは確かに正しいのだけど,「厳密に扱うこと」, 「数学的に扱うこと」,「動的概念を排除すること」,これらが全て同じことを指しているように見える. そしてその理由は不明である.とにかく, 何かしらのことを数学的に扱おうとすると,動的概念を排除するように定義をするとなんだかうまくいくと思う. そうするとなぜか数学的に扱えるようになる.逆に言えば数学は静的概念しか取り扱えないということでもある.(しかしこれは「数学は数学的概念しか扱えない」ということと同じでないだろうか).

それはさておき,この文書は確率論を扱うためのものなので, 確率論に現れる動的概念と静的概念の対立が顕著なものを説明しよう. それは確率変数である. 世の中には測度論的ではない確率論もあるようで,測度論的確率論が確率論の全てではないのだけど,この文章では数学的な確率論とは測度論的確率論ということになっているので,以下ではそのつもりで記述している. 数学的に厳密ではない(と言われている) 確率変数の取り扱いはおそらく以下のようなものになるのではないのだろうか?確率変数Xとは,刻一刻と値をさまざまにランダムに取り続ける変数のことである. つまりXは放っておくとX=1だったり, X=10!とか勝手に値がランダムに変わる変数のことである. これは動的概念である. ちなみに 静的には(数学的には)確率変数とはただ単に確率空間 (Ω,μ)上の(大抵の場合は)実数値を取る可測関数のことである. 確率変数を可測関数と思ってない人は上で述べたように確率変数を認知しているのだと思うし,おそらくこれは人類がプリミティブに認知した確率変数の定義である.この説明において 確率変数の分布とはXの取る値を観察したときの値の 分布である.つまりXは刻一刻と値を変化させるけれども, X=aとなる瞬間を記録して十分長い時間観察すれば X=aとなる確率がわかるということである. 可測関数として見るとμ⁢({ω∣X⁢(ω)=a}) のことである.「刻一刻」の刻がωに対応していて, (Xが刻一刻と値を変えるということを数学的に表現するのは なんというかとても難しいのだが,) コルモゴロフはそこらへんに目をつけて静的に定義することに成功したんじゃないのだろうかと思う.

動的概念を静的概念に変換するのは 「数学というフォーマット」に乗せるための手続きでしかなく,動的概念としての定義付けもそれはそれとして(数学というフォーマットの外側で)有効であり続けると 個人的には思う. (集合論の公理系ZFCは現代数学を「実装」することができる(だろう)けど,別にZFC全然知らなくても全然数学できるし数学の論文全然書けるしというのと類似の事柄だと思う.)

5.2 確率変数の向きを逆に

数学的に確率変数とは確率空間(Ω,𝔐,μ)上の 実数値可測関数X:Ω→ℝである. 多分,双対圏やらを考えて矢印の向きがX:Ω←ℝと考えた方がいい気がする. なぜなら,確率変数を考える際にΩ は結構どうでもいいからである.これは通常の数学において, 写像の値域は結構どうでもいいことに相似している. こういうこと言うとそんなことないと言われそうだけど, 写像f:X→Yに対してX→Y×Z;x→(f⁢(x),o) みたいなのを考えるときにめんどくさいしおんなじ記号で書いちゃうことはよくあるのでこういうことです. 実際,確率変数の方を適当に無限直積を取って独立な確率変数を得る方法とかは,確率変数の取り扱いにおいて定義域の方がどうでもいいということをよく利用していると思う. この矢印逆にすると言うのは先に述べたプリミティブな 確率変数の定義にも合致すると思う. なぜならXを刻一刻と勝手に値が変わる変数として見ると, X=aとなる瞬間を観察してそこからX=aとなる確率の方が大事だったりするのでa∈ℝに対して“X=aとなる事象”を対応させているのでXはℝからΩの方に矢印が伸びてると考えた方が便利なのである. このことは X−1:𝔅⁢(ℝ)→𝔐 の方が大事ということを指し示していると見ることもできる. おそらく確率変数を可測関数として見出した人は, “X=aという事象”の全体を抽象的に確率空間Ωとして 用意してあげて,確率変数Xを改めて可測関数 X:Ω→ℝ というふうに見立てて,数学的に,静的に, 確率変数を定義することに成功したのだと思う. 確率変数の定義域は結構どうでもいいので, フワーっとΩをこさえてやっても適宜直積取ったりなんなりすればいいのでこの定義はうまく行ったと思う (この定義にしたから定義域がどうでもよくなったのか,定義域がどうでも良いからこの定義になったのかはよくわからない). ただし動的概念を扱う人と静的概念を扱う人との間で 齟齬が生まれるようになった,というのが現代のこの世界である. 携帯電話の良いところはいつでもどこでも電話をかけられるところで,悪いところはいつでもどこでも電話がかかってくるところである(過程を省くが結論だけ述べると仲良くしなさいという意味).

References

  • [1] はてなブログ電波通信の記事 「直積測度の構成について:確率論その0」, https://concious4410.hatenablog.com/entry/2022/01/03/011245
  • [2] はてなブログ電波通信の記事 「大数の法則について:確率論その1」, https://concious4410.hatenablog.com/entry/2022/01/16/233527
  • [3] はてなブログ電波通信の記事 「距離空間上の測度:確率論その2」, https://concious4410.hatenablog.com/entry/2023/06/20/232112.
  • [4] はてなブログの記事「特殊な積分を求めること」, https://concious4410.hatenablog.com/entry/2021/03/25/100050
  • [5] 小谷眞一, 「測度と確率」, 2005 岩波書店.
  • [6] 船木直久, 「確率論」, 講座・数学の考え方 20,2004, 朝倉書店.
  • [7] C. W. Chin, A short elementary proof of the central limit theorem by individual swapping, arXiiv:2106.00871
  • [8] K. R. Parthasarathy, Probability measures on metric spaces. Academic Press.

「知識は公共財」