本記事は「これなら分かる！はじめての数理統計学」シリーズに含まれます。
不適切な内容があれば，記事下のコメント欄またはお問い合わせフォームよりご連絡下さい。
目次
大数の弱法則
独立同一分布に従う$X_i\;(i=1,2,\ldots,n)$と任意の正の実数$\varepsilon$に対して，
\begin{align}
P\left( \left| \frac{1}{n} \sum_{i=1}^nX_i - \mu\right| \geq \varepsilon \right) \rightarrow 0 \quad (n\rightarrow \infty)
\end{align}
P\left( \left| \frac{1}{n} \sum_{i=1}^nX_i - \mu\right| \geq \varepsilon \right) \rightarrow 0 \quad (n\rightarrow \infty)
\end{align}
が成り立つ。ただし，$E[X_i]=\mu$とおいた。
多くの人がここら辺から統計学が嫌になってくるのではないでしょうか。言っている意味が分からへんと。大数の弱法則は「サンプルサイズを大きくしていくと標本平均が母平均に近づいていく」ことを示しています。統計学の基本である，サンプルサイズをとればとるほど（仮定している）真の値に近づいていくはずだという主張を表しているものとも捉えられます。
証明
チェビシェフの不等式を利用して証明を行なっていきます。$Z=\sum_{i=1}^nX_i / n$とおけば，確率変数の性質の第一項目と第二項目より，$E[Z]$は以下のようになります。
\begin{align}
E[Z] &= E\left[ \frac{\sum_{i=1}^nX_i}{n} \right]\\[0.7em]
&= \frac{E[X_1]}{n} + \frac{E[X_2]}{n} + \cdots + \frac{E[X_n]}{n}\\[0.7em]
&= n\frac{\mu}{n}\\[0.7em]
&= \mu
\end{align}
E[Z] &= E\left[ \frac{\sum_{i=1}^nX_i}{n} \right]\\[0.7em]
&= \frac{E[X_1]}{n} + \frac{E[X_2]}{n} + \cdots + \frac{E[X_n]}{n}\\[0.7em]
&= n\frac{\mu}{n}\\[0.7em]
&= \mu
\end{align}
$V[Z]$についても同様です。$V[X_i]=\sigma^2$とおきます。
\begin{align}
V[Z] &= V\left[\frac{\sum_{i=1}^nX_i}{n}\right]\\[0.7em]
&= \frac{V[X_1]}{n^2} + \frac{V[X_2]}{n^2} + \cdots + \frac{V[X_n]}{n^2}\\[0.7em]
&= \frac{n\sigma^2}{n^2}\\[0.7em]
&= \frac{\sigma^2}{n}
\end{align}
V[Z] &= V\left[\frac{\sum_{i=1}^nX_i}{n}\right]\\[0.7em]
&= \frac{V[X_1]}{n^2} + \frac{V[X_2]}{n^2} + \cdots + \frac{V[X_n]}{n^2}\\[0.7em]
&= \frac{n\sigma^2}{n^2}\\[0.7em]
&= \frac{\sigma^2}{n}
\end{align}
さて，チェビシェフの不等式に代入していきましょう。
\begin{align}
P\left( \left| \frac{1}{n} \sum_{i=1}^nX_i - \mu \geq \epsilon \right| \right) \leq \frac{\sigma^2}{n\epsilon^2}
\end{align}
P\left( \left| \frac{1}{n} \sum_{i=1}^nX_i - \mu \geq \epsilon \right| \right) \leq \frac{\sigma^2}{n\epsilon^2}
\end{align}
右辺は$n \rightarrow \infty$のときに$0$に近づきますから，大数の弱法則が成り立つことを示せました。
補足
大数の弱法則は期待値の存在を仮定しています。それゆえ，期待値が存在しないコーシー分布等では大数の法則が成り立ちません。
参考文献
本稿の執筆にあたり参考にした文献は，以下でリストアップしております。
コメント
コメント一覧 （9件）
(1) 式の絶対値の範囲はP() 内の不等式の左辺ではないでしょうか？
tonna様
ご質問ありがとうございます。本記事の表記は現代数理統計学（竹村,2021）に則っております。それとも，表記ではなく定義に不十分な箇所がありますでしょうか。
任意の正の実数
に対して
ただし，
は同じ分布に従う独立な確率変数であり，とおいた。
とあるのですが、結論の数式が先にあるため、分からない文字式があとから説明されてるので読みづらかったです。但し書きはいいので、先に「は同じ分布に従う独立な確率変数であり，とおいた。」を描いてほしいです。
数学好きな人って意図してあとの但し書きで分かりにくくしてるんでしょうか・・・
ご意見ありがとうございます。本文を微調整しました。
数学で結論ファーストの後に「ただし」とノーテーションの説明が続くのは，英語ではそのような書き方をするからです。「但し書き」と仰っている部分は，英語における「where」に相当します。
＞英語ではそのような書き方をするからです。
逆にそれが読みにくい気がします・・・
あくまでここに掲載されている言語は日本語なので英語とは当然違います。
それでも結論ファーストを曲げたくないのであれば仕方ないのですが、他のサイト・他の筆者でも結論が先に来ていてわからない文字式の説明があとに来るので、読みやすさを完全に無視なのが数学界隈だと感じました・・・
貴重なご意見ありがとうございます。たしかに，「英語で書かれているから」だけではロジックとして弱かったです。
大学教育では，画一的な論文の書き方を学びます。まず日本語論文の書き方を学びますが，それは世界のデファクトスタンダードである英語論文の書き方に準じています。およそ大学教育を受けた者にとっては，英語論文の書き方が身に染み付いていると考えられます。ゆえに，たとえ数学の資料が日本語で書かれていたとしても，「英語で書かれているから」が主張の論拠として妥当だと考えています。
ただし，本稿の例で言うと，確率変数の定義までをも結論の後に記述しており，このような書き方は論文でもあまり行われないため，ご指摘を一部反映致しました。このページにアクセスしてきた人が知りたいことは，細かなノーテーションではなく結論ですので，結論を先に書くことは不自然ではないように思えます。
> 読みやすさを完全に無視なのが数学界隈だと感じました
一理あるかもしれません。ですが，最初に結論ファーストの書き方に慣れてしまえば，その後英語の文献を読む際にも難なく読めるようになるのではないかと考えています。
めんどうなのでもういいです。
「大数」と書くべきところが「対数」となっている箇所がいくつかあります。
maru様
ご指摘誠にありがとうございます。助かります。本文を修正致しました。