本記事は数学の徹底解説シリーズに含まれます。
初学者の分かりやすさを優先するため，多少正確でない表現が混在することがあります。もし致命的な間違いがあればご指摘いただけると助かります。
特異値分解の存在
任意の行列$A\in\mK^{m\times n}$は特異値分解可能である。
固有値とは異なり正方行列でない行列に対しても特異値分解は存在します。
証明
特異値と特異ベクトルの定義より，特異値はエルミート行列$AA^{\ast}$および$A^{\ast}A$の共通の固有値となります。いま，$r=\min(m,n)$とおくと，代数学の基本定理よりエルミート行列$AA^{\ast}$および$A^{\ast}A$は少なくとも一つ，多くとも$r$個の異なる固有値と固有ベクトルを持ちますので，$A$の異なる特異値を$\sigma_{1}\geq\ldots\geq\sigma_{r}$とおくことができます。これらに対応する左特異ベクトルを$\vu_{1},\ldots,\vu_{r}$，右特異ベクトルを$\vu_{1},\ldots,\vv_{r}$とすると，エルミート行列の固有ベクトルは正規直交基底が構成可能であることから，$\vu_{1},\ldots,\vu_{r}$と$\vv_{1},\ldots,\vv_{r}$は正規直交基底になります。また，特異値と特異ベクトルの定義より，$1\leq i\leq r$に対して
A\vv_{i} &= \sigma_{i}\vu_{i},\quad A\vu_{i} = \sigma_{i}\vv_{i}
\end{align}
が成り立ちます。$m\times n$行列$A$は$\mK^{n}$から$\mK^{m}$への線型写像を定める表現行列であることに注意すると，これらの正規直交基底を拡張することで，$\{\vu_{1},\ldots,\vu_{m}\}$と$\{\vv_{1},\ldots,\vv_{n}\}$をそれぞれ$\mK^{m}$と$\mK^{n}$の基底とすることができます。
以下では，$\{\vu_{r+1},\ldots,\vu_{m}\}$と$\{\vv_{r+1},\ldots,\vv_{n}\}$に対する固有値を求めます。これらはそれぞれ$AA^{\ast}$と$A^{\ast}A$に対する固有ベクトルとなりますが，もし固有値が$\sigma_{1}^{2},\ldots,\sigma_{r}^{2}$と重複していると仮定すると，同一の固有値に対する固有ベクトルは線型従属になることから，$\vu_{1},\ldots,\vu_{r}$と$\vv_{1},\ldots,\vv_{r}$が正規直交基底をなすことに矛盾します。もし固有値が$\sigma_{1}^{2},\ldots,\sigma_{r}^{2}$と重複しておらず，$0$でないと仮定すると，$AA^{\ast}$と$A^{\ast}A$が$\sigma_{1}^{2},\ldots,\sigma_{r}^{2}$と異なる固有値を持つことになり，代数学の基本定理に反するため矛盾します。したがって，$\{\vu_{r+1},\ldots,\vu_{m}\}$と$\{\vv_{r+1},\ldots,\vv_{n}\}$に対する固有値は$0$になります。すなわち，$r+1\leq j\leq m$，$r+1\leq k\leq n$に対して
AA^{\ast}\vu_{j} &= \vzero,\quad A^{\ast}A\vv_{k} = \vzero\label{拡張基底}
\end{align}
が成り立ちます。ここで，$A\vv_{k}=\vzero$と$A^{\ast}\vu_{j}=\vzero$を示すために，式($\ref{拡張基底}$)の第一式と$\vu_{j}$の内積，第二式と$\vv_{k}$の内積を考えます。まずは，第一式に関してです。
(AA^{\ast}\vu_{j}|\vu_{j}) &= (A^{\ast}\vu_{j}|A^{\ast}\vu_{j}) = \|A^{\ast}\vu_{j}\|^{2} = \vzero
\end{align}
したがって，$A^{\ast}\vu_{j}=\vzero$が分かりました。次に，第二式に関してです。
(A^{\ast}A\vv_{k}|\vv_{k}) &= (A\vv_{k}|A\vv_{k}) = \|A\vv_{k}\|^{2} = \vzero
\end{align}
したがって，$A\vv_{k}=\vzero$が分かりました。以上をまとめると，
A^{\ast}\vu_{j} &= \vzero,\quad &&A\vv_{k} &&= \vzero\\[0.7em]
A\vv_{i} &= \sigma_{i}\vu_{i},\quad &&A\vu_{i} &&= \sigma_{i}\vv_{i}
\end{alignat}
が成り立ちます。ただし，$1\leq i\leq r$，$r+1\leq j\leq m$，$r+1\leq k\leq n$です。したがって，行列$A$と$A^{\ast}$は行列と写像の関係より次のように書けます。
A &= \sigma_{1}\vu_{1}\vv_{1}^{\ast}+\cdots+ \sigma_{r}\vu_{r}\vv_{r}^{\ast},\quad
A^{\ast} = \sigma_{1}\vv_{1}\vu_{1}^{\ast}+\cdots+ \sigma_{r}\vv_{r}\vu_{r}^{\ast}\label{行列と写像}
\end{align}
式($\ref{行列と写像}$)を行列表記にするため，
U &=
\begin{bmatrix}
\vu_{i},\ldots,\vu_{r}
\end{bmatrix},\quad
V =
\begin{bmatrix}
\vv_{i},\ldots,\vv_{r}
\end{bmatrix},\quad
\Sigma =
\begin{bmatrix}
\sigma_{1}\\
&\ddots\\
&&\sigma_{r}
\end{bmatrix}
\end{align}
とおきます。すると，式($\ref{行列と写像}$)の第一式は
A &=
\begin{bmatrix}
\vu_{i},\ldots,\vu_{r}
\end{bmatrix}
\begin{bmatrix}
\sigma_{1}\\
&\ddots\\
&&\sigma_{r}
\end{bmatrix}
\begin{bmatrix}
\vv_{1}^{\ast}\\
\vdots\\
\vv_{r}^{\ast}
\end{bmatrix}
= U\Sigma V^{\ast}
\end{align}
と表され，第二式は
A^{\ast} &=
\begin{bmatrix}
\vv_{i},\ldots,\vv_{r}
\end{bmatrix}
\begin{bmatrix}
\sigma_{1}\\
&\ddots\\
&&\sigma_{r}
\end{bmatrix}
\begin{bmatrix}
\vu_{1}^{\ast}\\
\vdots\\
\vu_{r}^{\ast}
\end{bmatrix}
= V\Sigma U^{\ast}
\end{align}
と表されます。以上より，固有値分解の存在が示されました。
コメント