本記事は「これなら分かる！はじめての数理統計学」シリーズに含まれます。
不適切な内容があれば，記事下のコメント欄またはお問い合わせフォームよりご連絡下さい。
はじめに
私は確率統計の勉強を始めた当初，こんな誤解をしていました。本稿では，この考えがなぜ間違いなのかをお伝えします。
確率変数の独立性というのは「片方の確率変数がもう一方の確率変数に影響を与えない」というイメージだ。いま，以下の極座標変換
X &= R\cos\Theta\\[0.7em]
Y &= R\sin\Theta
\end{align}
を用いて独立な二つの確率変数$(X,Y)$を$(R,\Theta)$に変換することを考える。このとき，$R$を変えると$(X,Y)$のいずれも変化してしまうし，$\Theta$を変えても同様に$(X,Y)$のいずれも変化してしまうから，$(R,\Theta)$は独立ではないのではないか。すなわち，極座標変換は$(X,Y)$の独立性を失ってしまうのではないか。
結論
極座標変換は独立性を失わない。これは，変換後の確率変数$(R,\Theta)$は「片方の確率変数がもう一方の確率変数に影響を与えない」という独立の定義のイメージに反するものだが，確率変数の値と確率関数の値は異なることに注意すると理解することができる。すなわち，変換後の片方の変数$\Theta$が$(X,Y)$の値に影響を与え，同様に$R$が$(X,Y)$の値に影響を与えたとしても，同時確率関数が積の形に変形できるため，$(R,\Theta)$は独立になるのである。
独立の定義とイメージ
そもそも，二つの確率変数の独立とは，同時確率関数がそれぞれの確率変数の積で表されること，もしくは条件付き確率関数を用いて定義されるのでした。
「片方の確率変数がもう一方の確率変数に影響を与えない」というイメージは部分的に正しく，完全に正しい訳ではありません。部分的に正しいのは，条件付き確率関数を用いた独立の定義のイメージと一致するからです。
二つの確率変数$X$と$Y$が以下のいずれかを満たすとき，$X$と$Y$は独立であるという。
f_{Y|X}(y|x) &= f_{Y}(y)\\[0.7em]
f_{X|Y}(x|y) &= f_{X}(x)
\end{align}
つまり，$Y$の確率関数を$X$で条件づけても変化はない，もしくは$X$の確率関数を$Y$で条件づけても変化はない場合に，両者は独立になることから，「片方の確率変数がもう一方の確率変数に影響を与えない」というイメージが流布しているように思えます。
確率変数の値と確率関数の値
確率変数の値と確率関数の値は異なります。独立は確率関数を用いて定義されますので，確率変数がどのような値を取ろうとも，二つの確率変数が独立かどうかには関係しないのです。この点が，「片方の確率変数がもう一方の確率変数に影響を与えない」というイメージが完全に正しいものではない理由です。
理解に向けたイメージ
私は，極座標変換ではいつも二次元座標を想像しています。二つの独立な確率変数$(X,Y)$というのは，二次元平面の任意の点を表現できます。極座標変換が，二次元平面の点$(X,Y)$と一対一対応する形で二次元平面の任意の点を表現できるならば，$(R,\Theta)$は独立といえます。なぜなら，$X$と$Y$が互いに独立のとき，確率変数の組$(X,Y)$がある二次元平面上の点$(x,y)$と一致する確率は$P(X=x)$と$P(Y=y)$を乗じたものになり，$(X,Y)$と$(R,\Theta)$が一対一対応するならば，$P(X=x)$と$P(Y=y)$を乗じた確率と$P(R=r)$と$P(\Theta=\theta)$を乗じた確率は一致するはずだからです。
実際に，任意の点$(X,Y)$というのは，$\Theta\in[0,2\pi)$かつ$[0\leq R\leq \infty)$とすれば，$(X,Y)$と$(R,\Theta)$が一対一対応する形で変換することが可能です。したがって，$(R,\Theta)$は$(X,Y)$の独立性を保つため独立となります。
連続型確率変数においては，確率変数がある値を取る$P(X=x,Y=y)$は$0$となることが知られています。しかし，ある程度の数学的な不正確さを許容した上で極座標変換が独立性を失わないことをイメージすることは，統計学を学ぶ上で必要なステップだと考えています。
参考文献
本稿の執筆にあたり参考にした文献は，以下でリストアップしております。
コメント