本記事は「これなら分かる！はじめての数理統計学」シリーズに含まれます。
不適切な内容があれば，記事下のコメント欄またはお問い合わせフォームよりご連絡下さい。
目次
多変量正規分布の周辺分布
$\mX\sim \N(\vmu, \Sigma)$のとき，$\mX_i\sim \N(\vmu_i, \Sigma_{ii})$である。
多変量正規分布の周辺分布も多変量正規分布になるという定理です。確率分布の再生性と同様に，知っておくと便利な局面がたくさんあります。
証明
見通しよく式変形を行うため，$\mX, \vmu, \vt, \Sigma$を$D_1$次元の部分と$D_2=D-D_1$次元の部分に区分けします。
\begin{align}
\mX &=
\begin{bmatrix}
X_1 \\
X_2 \\
\end{bmatrix}
&
\vmu &=
\begin{bmatrix}
\vmu_1 \\
\vmu_2 \\
\end{bmatrix}
&
\vt &=
\begin{bmatrix}
\vt_1 \\
\vt_2 \\
\end{bmatrix}
&
\Sigma &=
\begin{bmatrix}
\Sigma_{11} & \Sigma_{12} \\
\Sigma_{21} & \Sigma_{22} \\
\end{bmatrix}
\end{align}
\mX &=
\begin{bmatrix}
X_1 \\
X_2 \\
\end{bmatrix}
&
\vmu &=
\begin{bmatrix}
\vmu_1 \\
\vmu_2 \\
\end{bmatrix}
&
\vt &=
\begin{bmatrix}
\vt_1 \\
\vt_2 \\
\end{bmatrix}
&
\Sigma &=
\begin{bmatrix}
\Sigma_{11} & \Sigma_{12} \\
\Sigma_{21} & \Sigma_{22} \\
\end{bmatrix}
\end{align}
私たちの目標は，$\mX_1$と$\mX_2$の分布，すなわち周辺分布を求めることです。行列の要素を抽出するためには，単位行列とゼロ行列で構成される適当な変換行列をかけあわせればよさそうです。そこで，以下のように単位ベクトルとゼロベクトルで定義される変換行列$A, B$を定めます。
\begin{align}
A &=
\begin{bmatrix}
I_{D_1} \\
O_{D_2}
\end{bmatrix}
\\[0.7em]
B &=
\begin{bmatrix}
O_{D_1}\\
I_{D_2}
\end{bmatrix}
\end{align}
A &=
\begin{bmatrix}
I_{D_1} \\
O_{D_2}
\end{bmatrix}
\\[0.7em]
B &=
\begin{bmatrix}
O_{D_1}\\
I_{D_2}
\end{bmatrix}
\end{align}
ただし，$I_{D}$は$D$次元縦単位ベクトル，$O_{D}$は$D$次元縦ゼロベクトルを表しています。ここで，多変量正規分布の変数変換に関する定理を用いれば，$A\mX$と$B\mX$はそれぞれ以下のように表されます。
\begin{align}
\mX_1 &= A\mX \sim \N(A\vmu, A\Sigma A^T) \\[0.7em]
\mX_2 &= B\mX \sim \N(B\vmu, B\Sigma B^T)
\end{align}
\mX_1 &= A\mX \sim \N(A\vmu, A\Sigma A^T) \\[0.7em]
\mX_2 &= B\mX \sim \N(B\vmu, B\Sigma B^T)
\end{align}
ここで，以下の計算結果を参考にします。
\begin{align}
A\vmu &= \vmu_1 \\[0.7em]
A\Sigma A^T &= \left[ \Sigma_{11}, \Sigma_{12} \right]A^T = \Sigma_{11} \\[0.7em]
B\vmu &= \vmu_2 \\[0.7em]
B\Sigma B^T &= \left[ \Sigma_{21}, \Sigma_{22} \right]B^T = \Sigma_{22} \\[0.7em]
\end{align}
A\vmu &= \vmu_1 \\[0.7em]
A\Sigma A^T &= \left[ \Sigma_{11}, \Sigma_{12} \right]A^T = \Sigma_{11} \\[0.7em]
B\vmu &= \vmu_2 \\[0.7em]
B\Sigma B^T &= \left[ \Sigma_{21}, \Sigma_{22} \right]B^T = \Sigma_{22} \\[0.7em]
\end{align}
したがって，以下が成り立ちます。
\begin{align}
\mX_1 &\sim \N(\vmu_{1}, \Sigma_{11}) \\[0.7em]
\mX_2 &\sim \N(\vmu_{2}, \Sigma_{22})
\end{align}
\mX_1 &\sim \N(\vmu_{1}, \Sigma_{11}) \\[0.7em]
\mX_2 &\sim \N(\vmu_{2}, \Sigma_{22})
\end{align}
参考文献
本稿の執筆にあたり参考にした文献は，以下でリストアップしております。
コメント