技術(非IT系)

大数の法則の証明方法は?数学的証明をわかりやすく解説!(弱大数の法則:強大数の法則:チェビシェフの不等式:確率収束など)

当サイトでは記事内に広告を含みます

大数の法則がどのような法則であるかを知っている方は多いでしょう。

しかし「その証明がどのように行われるのか」については、あまり詳しく知らないという方も少なくないのではないでしょうか。

大数の法則の証明は、確率論・数理統計学の中でも特に重要かつ美しい数学的論証のひとつとして知られています。

この記事では、弱大数の法則の証明にチェビシェフの不等式を用いた方法を中心に、できるだけ丁寧にわかりやすく解説していきます。

高校数学の基礎から大学の確率論まで、さまざまな段階の方に読んでいただける内容ですので、ぜひ証明の美しさを感じながら読み進めていただければ幸いです。

大数の法則の証明の基本方針:チェビシェフの不等式を使う

それではまず、弱大数の法則の証明の基本方針と、証明に用いるチェビシェフの不等式について解説していきます。

弱大数の法則の最もスタンダードな証明は、チェビシェフの不等式(Chebyshev’s Inequality)を用いた方法です。

チェビシェフの不等式とは

チェビシェフの不等式とは、確率変数の平均と分散から、その確率変数が平均から大きく外れる確率の上限を与える不等式です。

チェビシェフの不等式

確率変数 X の期待値を μ=E[X]、分散を σ²=Var(X) とするとき、任意の ε>0 に対して、

P(|X − μ| ≥ ε) ≤ σ²/ε²

この不等式は、分布の形によらず常に成立する普遍的な不等式である。

この不等式は「分散が小さければ、平均から大きくずれる確率も小さい」ということを数学的に保証するものです。

分布の具体的な形を仮定せずに成立する点がチェビシェフの不等式の強みであり、大数の法則の証明においても非常に有効です。

チェビシェフの不等式の証明

チェビシェフの不等式自体も、マルコフの不等式から導出できます。

チェビシェフの不等式の導出

マルコフの不等式:非負の確率変数 Y と a>0 に対して P(Y ≥ a) ≤ E[Y]/a

Y = (X−μ)²、a = ε² と置くと、

P((X−μ)² ≥ ε²) ≤ E[(X−μ)²]/ε² = σ²/ε²

P(|X−μ| ≥ ε) = P((X−μ)² ≥ ε²) ≤ σ²/ε²

よってチェビシェフの不等式が証明される。

このように、チェビシェフの不等式はマルコフの不等式を巧みに応用することで、比較的簡単に導出できます。

証明の全体的な流れ

弱大数の法則の証明の流れを大まかに整理すると、以下のようになります。

まず標本平均 X̄ₙ の期待値と分散を求め、次にチェビシェフの不等式を適用して P(|X̄ₙ−μ|≥ε) の上限を求めます。

最後に n → ∞ のとき上限が0に収束することを示して、確率収束を証明するという流れです。

各ステップが論理的につながっていることが、この証明の美しさと言えるでしょう。

弱大数の法則の証明(チェビシェフの不等式を用いた方法)

続いては、弱大数の法則の具体的な証明を確認していきます。

ここでは最も基本的な形(分散が有限・独立同分布)での証明を丁寧に追っていきます

前提条件の設定

証明の前提条件を確認します。

弱大数の法則(証明の前提)

X₁, X₂, …, Xₙ:互いに独立同分布(i.i.d.)の確率変数列

E[Xᵢ] = μ(有限の期待値が存在)

Var(Xᵢ) = σ²(有限の分散が存在)

X̄ₙ = (X₁+X₂+…+Xₙ)/n(標本平均)

示したいこと:任意の ε>0 に対して、P(|X̄ₙ−μ|≥ε) → 0(n→∞)

標本平均の期待値と分散の計算

まず標本平均 X̄ₙ の期待値を求めます。

標本平均の期待値の計算

E[X̄ₙ] = E[(X₁+X₂+…+Xₙ)/n]

= (1/n)・(E[X₁]+E[X₂]+…+E[Xₙ])

= (1/n)・n・μ = μ

次に分散を求める。独立性より、

Var(X̄ₙ) = Var((X₁+…+Xₙ)/n)

= (1/n²)・(Var(X₁)+…+Var(Xₙ))

= (1/n²)・n・σ² = σ²/n

この計算から、標本平均の期待値は μ に等しく、分散は σ²/n であることがわかります。

分散が n の増加とともに 0 に近づくことが、収束の直感的な理由です。

チェビシェフの不等式の適用と収束の証明

次にチェビシェフの不等式を標本平均 X̄ₙ に適用します。

チェビシェフの不等式の適用

X̄ₙ に対してチェビシェフの不等式を適用すると、

P(|X̄ₙ−μ|≥ε) ≤ Var(X̄ₙ)/ε² = (σ²/n)/ε² = σ²/(nε²)

n → ∞ のとき、σ²/(nε²) → 0

確率は0以上であるから、はさみうちの原理より、

0 ≤ P(|X̄ₙ−μ|≥ε) ≤ σ²/(nε²) → 0

よって P(|X̄ₙ−μ|≥ε) → 0 が示された。(証明終)

この証明は比較的シンプルでありながら、大数の法則の本質を数学的に厳密に捉えた美しい論証です。

分散が 1/n に比例して小さくなることが、収束の根拠として機能しているという点が証明の核心です。

強大数の法則の証明の概要

続いては、強大数の法則の証明の概要を確認していきます。

強大数の法則は弱大数の法則よりも強い主張をするため、証明もより高度な数学的手法を必要とします

強大数の法則の証明の難しさ

強大数の法則(Borel-Cantelli lemma を使った証明やコルモゴロフの強大数の法則など)の厳密な証明は、測度論・確率論の高度な知識を必要とするため、大学院レベルの内容となります。

ここでは証明の概要・アイデア・主要な道具を紹介するにとどめ、完全な証明は専門書に委ねます。

ボレル-カンテリ補題のアイデア

強大数の法則の証明に重要な役割を果たすのが「ボレル-カンテリ補題(Borel-Cantelli Lemma)」です。

ボレル-カンテリ補題(第1補題)の概要

事象の列 A₁, A₂, A₃, … に対して、∑P(Aₙ) < ∞ ならば、

無限個の Aₙ が起こる確率は0である。

つまり、「まれな事象の確率の和が有限なら、それらは有限個しか起こらない(ほぼ確実に)」

この補題を用いることで「標本平均が期待値から ε 以上ずれることが無限回起こる確率は0である」ということを示し、強大数の法則の証明に活用します。

コルモゴロフの強大数の法則

コルモゴロフ(Kolmogorov)による強大数の法則の証明は、測度論的確率論の枠組みで厳密に行われており、現代確率論の金字塔として高く評価されています

独立同分布・有限の期待値という条件のもとで、標本平均がほぼ確実に期待値に収束することを示したこの証明は、20世紀の数学における重要な成果のひとつです。

大数の法則の証明における重要な数学的道具

続いては、大数の法則の証明で活用される重要な数学的道具をまとめて確認していきます。

証明を理解するためには、これらの道具への基本的な理解が欠かせません。

マルコフの不等式

チェビシェフの不等式の基礎となるマルコフの不等式は、非負の確率変数に対して成立するシンプルかつ強力な不等式です。

マルコフの不等式

非負の確率変数 X と任意の a>0 に対して、

P(X ≥ a) ≤ E[X]/a

証明:E[X] = ∫xf(x)dx ≥ ∫_{x≥a} xf(x)dx ≥ a・P(X≥a)

この不等式は証明がシンプルでありながら、チェビシェフの不等式・大数の法則・中心極限定理など多くの重要な定理の証明に活用される汎用性の高い道具です。

期待値と分散の線形性

大数の法則の証明で用いられる「標本平均の期待値と分散の計算」は、期待値の線形性と分散の独立加法性に基づいています。

性質 内容
期待値の線形性 E[aX+bY] = aE[X]+bE[Y](任意の定数 a, b)
分散の独立加法性 X, Y が独立なら Var(X+Y)=Var(X)+Var(Y)
定数倍の分散 Var(aX) = a²Var(X)

これらの性質が成立することが、標本平均の分散を σ²/n と求める計算の根拠になっています。

はさみうちの原理と証明の完成

チェビシェフの不等式を適用した後、証明の締めくくりに使われるのが「はさみうちの原理(squeeze theorem)」です。

0 ≤ P(|X̄ₙ−μ|≥ε) ≤ σ²/(nε²) という不等式において、両端がともに 0 に収束するため、中間の確率も 0 に収束するという論法です。

シンプルながらも確実な論法として、確率論の証明全般で広く使われる手法です。

まとめ

この記事では、大数の法則の証明について、チェビシェフの不等式を用いた弱大数の法則の証明を中心に、強大数の法則の概要・証明に用いられる数学的道具まで幅広く解説してきました。

弱大数の法則の証明は、標本平均の分散が σ²/n であることとチェビシェフの不等式を組み合わせることで、比較的シンプルかつ厳密に行うことができます。

強大数の法則の証明はより高度な測度論的手法を必要としますが、ボレル-カンテリ補題などの重要な道具が活躍します。

大数の法則の証明を通じて、確率論の論証の美しさと厳密さを感じていただければ幸いです。

今後の確率論・統計学の学習の大きな基盤として、ぜひこの証明の流れを記憶に留めておいてください。