本記事は「これなら分かる！はじめての数理統計学」シリーズに含まれます。
不適切な内容があれば，記事下のコメント欄またはお問い合わせフォームよりご連絡下さい。
目次
確率変数の性質
確率変数$X$，$Y$と定数$a$，$b$，$c$に対して，次が成り立つ。
\begin{align}
E[aX + bY + c] &= aE[X] + bE[Y] + c \\[0.7em]
V[aX + bY + c] &= a^2V[X] + b^2V[Y] + 2ab \Cov [X, Y] \\[0.7em]
\Cov[X, a] &= 0 \\[0.7em]
\Cov [aX_{1}+bY_{1}, cX_{2}+dY_{2}] &= ac\Cov[X_{1}, Y_{1}] + ad\Cov[X_{1}, Y_{2}] \notag\\[0.7em]
&\quad\quad+ bc\Cov[X_{2}, Y_{1}] + bd\Cov[X_{2}, Y_{2}]
\end{align}
E[aX + bY + c] &= aE[X] + bE[Y] + c \\[0.7em]
V[aX + bY + c] &= a^2V[X] + b^2V[Y] + 2ab \Cov [X, Y] \\[0.7em]
\Cov[X, a] &= 0 \\[0.7em]
\Cov [aX_{1}+bY_{1}, cX_{2}+dY_{2}] &= ac\Cov[X_{1}, Y_{1}] + ad\Cov[X_{1}, Y_{2}] \notag\\[0.7em]
&\quad\quad+ bc\Cov[X_{2}, Y_{1}] + bd\Cov[X_{2}, Y_{2}]
\end{align}
特に，$X$と$Y$が独立ならば，次が成り立つ。
\begin{align}
E[X Y] &= E[X]E[Y] \\[0.7em]
\Cov [X, Y] &= 0
\end{align}
E[X Y] &= E[X]E[Y] \\[0.7em]
\Cov [X, Y] &= 0
\end{align}
期待値計算では欠かせない定理です。なんとなく成り立ちそうだというだけで変形してしまいそうな定理ですが，独立であるという条件を見逃してしまうリスクなどもあるため，一度は手計算で成り立つことを確認してください。
証明
5つの式についてそれぞれ証明していきます。なお，以下では確率変数が連続型である場合について示します。離散型の場合も積分をシグマに変えるだけで同様に示すことができます。
式(1)の証明
期待値の定義を変形していくだけです。要するに，期待値の線形性は積分の線形性に基づいているということです。
\begin{align}
&E[aX + bY + c] \notag\\[0.7em]
&= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} (ax + by + c)f_{X Y}(x, y) dx dy \\[0.7em]
&= a \int_{-\infty}^{\infty}x \left \{ \int_{-\infty}^{\infty}f_{X Y}(x, y)dy \right \}dx \notag \\[0.7em]
&\quad + b \int_{-\infty}^{\infty}y \left \{ \int_{-\infty}^{\infty}f_{X Y}(x, y)dx \right \}dy \notag \\[0.7em]
&\quad + c \int_{-\infty}^{\infty} \int_{-\infty}^{\infty}f_{X Y}(x, y)dxdy \\[0.7em]
&= aE[X] + bE[Y] + c
\end{align}
&E[aX + bY + c] \notag\\[0.7em]
&= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} (ax + by + c)f_{X Y}(x, y) dx dy \\[0.7em]
&= a \int_{-\infty}^{\infty}x \left \{ \int_{-\infty}^{\infty}f_{X Y}(x, y)dy \right \}dx \notag \\[0.7em]
&\quad + b \int_{-\infty}^{\infty}y \left \{ \int_{-\infty}^{\infty}f_{X Y}(x, y)dx \right \}dy \notag \\[0.7em]
&\quad + c \int_{-\infty}^{\infty} \int_{-\infty}^{\infty}f_{X Y}(x, y)dxdy \\[0.7em]
&= aE[X] + bE[Y] + c
\end{align}
式(2)の証明
分散の定義を変形していくだけです。
\begin{align}
&V[aX + bY + c]\notag\\[0.7em]
&= E[(aX + bY + c)^2] - { E[aX + bY + c]}^2 \\[0.7em]
&= a^2 E[X^2] + b^2 E[Y^2] + c^2 + 2(abE[X Y] + bcE[Y] + caE[X]) \notag \\[0.7em]
& \quad - \{ a^2 E[X]^2 + b^2E[Y]^2 + c^2 + 2(abE[X]E[Y] + bcE[Y] + caE[X])\} \\[0.7em]
&= a^2(E[X^2] - E[X]^2) + b^2(E[Y^2] - E[X]^2) + 2ab(E[X Y] - E[X]E[Y]) \\[0.7em]
&= a^2V[X] + b^2V[Y] + 2ab \Cov [X, Y]
\end{align}
&V[aX + bY + c]\notag\\[0.7em]
&= E[(aX + bY + c)^2] - { E[aX + bY + c]}^2 \\[0.7em]
&= a^2 E[X^2] + b^2 E[Y^2] + c^2 + 2(abE[X Y] + bcE[Y] + caE[X]) \notag \\[0.7em]
& \quad - \{ a^2 E[X]^2 + b^2E[Y]^2 + c^2 + 2(abE[X]E[Y] + bcE[Y] + caE[X])\} \\[0.7em]
&= a^2(E[X^2] - E[X]^2) + b^2(E[Y^2] - E[X]^2) + 2ab(E[X Y] - E[X]E[Y]) \\[0.7em]
&= a^2V[X] + b^2V[Y] + 2ab \Cov [X, Y]
\end{align}
式(3)の証明
共分散の定義を変形していくだけです。
\begin{align}
\Cov[X, a] &= E[aX]-E[a]E[X] = aE[X]-aE[X] = 0
\end{align}
\Cov[X, a] &= E[aX]-E[a]E[X] = aE[X]-aE[X] = 0
\end{align}
式(4)の証明
共分散の定義を変形していくだけです。
\begin{align}
&\Cov[aX_{1}+bY_{1}, cX_{2}+dY_{2}] \notag\\[0.7em]
&= E[(aX_{1}+bY_{1})\cdot (cX_{2}+dY_{2})] - E[aX_{1}+bY_{1}]E[cX_{2}+dY_{2}] \\[0.7em]
&= E[acX_{1}X_{2}+adX_{1}Y_{2}+bcX_{2}Y_{1}+bdY_{1}Y_{2}] \notag\\[0.7em]
&\quad\quad- acE[X_{1}]E[X_{2}]-adE[X_{1}]E[Y_{2}]-bcE[X_{2}]E[Y_{1}]-bdE[Y_{1}]E[Y_{2}]\\[0.7em]
&= ac(E[X_{1}X_{2}] - E[X_{1}]E[X_{2}])+ad(E[X_{1}Y_{2}] - E[X_{1}]E[Y_{2}])\notag\\[0.7em]
&\quad\quad+bc(E[X_{2}Y_{1}] - E[X_{2}]E[Y_{1}])+bd(E[Y_{1}Y_{2}] - E[Y_{1}]E[Y_{2}])\\[0.7em]
&= ac\Cov[X_{1}, X_{2}] + ad\Cov[X_{1}, Y_{2}] + bc\Cov[X_{2}, Y_{1}] + bd\Cov[Y_{1}, Y_{2}]
\end{align}
&\Cov[aX_{1}+bY_{1}, cX_{2}+dY_{2}] \notag\\[0.7em]
&= E[(aX_{1}+bY_{1})\cdot (cX_{2}+dY_{2})] - E[aX_{1}+bY_{1}]E[cX_{2}+dY_{2}] \\[0.7em]
&= E[acX_{1}X_{2}+adX_{1}Y_{2}+bcX_{2}Y_{1}+bdY_{1}Y_{2}] \notag\\[0.7em]
&\quad\quad- acE[X_{1}]E[X_{2}]-adE[X_{1}]E[Y_{2}]-bcE[X_{2}]E[Y_{1}]-bdE[Y_{1}]E[Y_{2}]\\[0.7em]
&= ac(E[X_{1}X_{2}] - E[X_{1}]E[X_{2}])+ad(E[X_{1}Y_{2}] - E[X_{1}]E[Y_{2}])\notag\\[0.7em]
&\quad\quad+bc(E[X_{2}Y_{1}] - E[X_{2}]E[Y_{1}])+bd(E[Y_{1}Y_{2}] - E[Y_{1}]E[Y_{2}])\\[0.7em]
&= ac\Cov[X_{1}, X_{2}] + ad\Cov[X_{1}, Y_{2}] + bc\Cov[X_{2}, Y_{1}] + bd\Cov[Y_{1}, Y_{2}]
\end{align}
式(5)の証明
期待値の定義を変形していくだけです。
\begin{align}
E[X Y] &= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} xy f_{X Y}(x, y) dx dy \\[0.7em]
&= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty}xy f_{X}(x) f_{Y}(y) dx dy \\[0.7em]
&= \int_{-\infty}^{\infty} x f_{X}(x) dx \int_{-\infty}^{\infty}y f_{Y}(y) dy \\[0.7em]
&= E[X]E[Y]
\end{align}
E[X Y] &= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} xy f_{X Y}(x, y) dx dy \\[0.7em]
&= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty}xy f_{X}(x) f_{Y}(y) dx dy \\[0.7em]
&= \int_{-\infty}^{\infty} x f_{X}(x) dx \int_{-\infty}^{\infty}y f_{Y}(y) dy \\[0.7em]
&= E[X]E[Y]
\end{align}
式(6)の証明
共分散の定義式を変形していくだけです。
\begin{align}
{\rm Cov}[X, Y] &= E[X Y] - E[X] E[Y] \\[0.7em]
&= E[X] E[Y] - E[X] E[Y] \\[0.7em]
&= 0
\end{align}
{\rm Cov}[X, Y] &= E[X Y] - E[X] E[Y] \\[0.7em]
&= E[X] E[Y] - E[X] E[Y] \\[0.7em]
&= 0
\end{align}
参考文献
本稿の執筆にあたり参考にした文献は，以下でリストアップしております。
コメント
コメント一覧 （2件）
(15)から(16)の展開が間違っているように見えますが、どうでしょうか？
(16)はE(acX1X2+…になると思います。
てん様
ご指摘誠にありがとうございます。おっしゃる通りですので，本文を修正致しました。