【徹底解説】多変量正規分布の標準化

2024年4月29日

本記事は「これなら分かる！はじめての数理統計学」シリーズに含まれます。

不適切な内容があれば，記事下のコメント欄またはお問い合わせフォームよりご連絡下さい。

多変量正規分布の標準化

多変量正規分布 $N (μ, Σ)$ に従う $X$ に対し，以下で定義される確率変数

\begin{aligned} (1) & Z & = Σ^{- 1 / 2} (X - μ) \end{aligned}

は $N (0_{n}, I_{n})$ に従う。ただし， $0_{n}$ は $n$ 次元ゼロベクトル， $I_{n}$ は $n$ 次元単位行列を表す。

$1$ 次元の場合と本質的には同じ操作を行っています。

式( $1$ )を変形すると，

\begin{aligned} (2) & Z & = Σ^{- 1 / 2} X - Σ^{- 1 / 2} μ \end{aligned}

\begin{array}{r} (3) & A = Σ^{- 1 / 2}, b = - Σ^{- 1 / 2} μ \end{array}

を代入すると， $Z$ もまた多変量正規分布に従い，その平均ベクトルは，

\begin{aligned} (4) & A μ + b & = Σ^{- 1 / 2} μ - Σ^{- 1 / 2} μ = 0 \end{aligned}

となり，分散共分散行列は

\begin{aligned} (5) & A Σ A^{T} & = Σ^{- 1 / 2} Σ {(Σ^{- 1 / 2})}^{T} = Σ^{1 / 2} {(Σ^{T})}^{- 1 / 2} = Σ^{1 / 2} Σ^{- 1 / 2} = I_{n} \end{aligned}

となります。ただし， $I_{n}$ は $n$ 次元単位行列を表し，正則行列において逆行列の転置と転置の逆行列が等しくなること，および $Σ$ が対称行列であることを利用しました。したがって，

\begin{aligned} (6) & Z & \sim N (0_{n}, I_{n}) \end{aligned}

が得られます。

本稿の執筆にあたり参考にした文献は，以下でリストアップしております。

シェアはこちらからお願いします！

aos より:

2023年6月7日 21:33

(2)におけるZの分散は線形変換の定理に従えば，Σ^(-1/2)Σ(Σ^(-1/2))^Tだと思いますが，なぜそのような結果になるのか教えていただきたいです．

返信
- zuka より:
  
  2023年6月10日 17:50
  
  aos様
  
  本文で詳しめに記述しました。ご確認お願い致します。
nada より:

2024年12月6日 13:49

$Σ^{- 1 / 2}$ の定義を教えてもらえますか。

返信
- zuka より:
  
  2024年12月14日 12:21
  
  nada様
  
  ご質問ありがとうございます。分散共分散行列の $- 1 / 2$ 乗です。行列 $Σ$ の $1 / 2$ 乗は
  $\begin{array}{r} (7) & A^{2} = Σ \end{array}$
  を表す行列 $A$ として定義されます。