本記事は「これなら分かる！はじめての数理統計学」シリーズに含まれます。
不適切な内容があれば，記事下のコメント欄またはお問い合わせフォームよりご連絡下さい。
目次
損失関数
真のパラメータが$\theta$であり統計家による決定が$d$であるとき，統計家の被る損失の大きさを$\theta$と$d$の関数として表した$L(\theta,d)$を損失関数という。
損失関数は機械学習の分野でも非常に重要な概念ですが，統計学の分野でも同じく重要な役割を果たします。統計家による決定が「良いものか良くないものか」を，損失関数という手段を通して数学的に記述することができます。
補足
最も素朴な損失関数は以下の$0$-$1$損失関数です。すなわち，真のパラメータが$\Theta_{0}$に属するときは正しい決定は$d=0$，真のパラメータが$\Theta_{1}$に属するときは正しい決定は$d=1$となることを損失関数で表現します。
\begin{align}
L(\theta,0) &=
\begin{cases}
0,&\if\quad\theta\in\Theta_{0}\\[0.7em]
1,&\if\quad\theta\in\Theta_{1}
\end{cases}\\[0.7em]
L(\theta,1) &= 1-L(\theta,0)\label{L_1}
\end{align}
L(\theta,0) &=
\begin{cases}
0,&\if\quad\theta\in\Theta_{0}\\[0.7em]
1,&\if\quad\theta\in\Theta_{1}
\end{cases}\\[0.7em]
L(\theta,1) &= 1-L(\theta,0)\label{L_1}
\end{align}
ただし，式($\ref{L_1}$)のように$L(\theta,0)$の補集合で$L(\theta,1)$を表すことができるのは，検定問題では
\begin{align}
\Theta=\Theta_{0}\cap\Theta_{1},\quad\Theta_{0}\cup\Theta_{1}=\emptyset
\end{align}
\Theta=\Theta_{0}\cap\Theta_{1},\quad\Theta_{0}\cup\Theta_{1}=\emptyset
\end{align}
を仮定することにもとづきます。
参考文献
本稿の執筆にあたり参考にした文献は，以下でリストアップしております。
コメント