【徹底解説】損失関数の定義

本記事は「これなら分かる!はじめての数理統計学」シリーズに含まれます。

不適切な内容があれば,記事下のコメント欄またはお問い合わせフォームよりご連絡下さい。

目次

損失関数

真のパラメータが$\theta$であり統計家による決定が$d$であるとき,統計家の被る損失の大きさを$\theta$と$d$の関数として表した$L(\theta,d)$を損失関数という。

損失関数は機械学習の分野でも非常に重要な概念ですが,統計学の分野でも同じく重要な役割を果たします。統計家による決定が「良いものか良くないものか」を,損失関数という手段を通して数学的に記述することができます。

補足

最も素朴な損失関数は以下の$0$-$1$損失関数です。すなわち,真のパラメータが$\Theta_{0}$に属するときは正しい決定は$d=0$,真のパラメータが$\Theta_{1}$に属するときは正しい決定は$d=1$となることを損失関数で表現します。

\begin{align}
L(\theta,0) &=
\begin{cases}
0,&\if\quad\theta\in\Theta_{0}\\[0.7em]
1,&\if\quad\theta\in\Theta_{1}
\end{cases}\\[0.7em]
L(\theta,1) &= 1-L(\theta,0)\label{L_1}
\end{align}

ただし,式($\ref{L_1}$)のように$L(\theta,0)$の補集合で$L(\theta,1)$を表すことができるのは,検定問題では

\begin{align}
\Theta=\Theta_{0}\cap\Theta_{1},\quad\Theta_{0}\cup\Theta_{1}=\emptyset
\end{align}

を仮定することにもとづきます。

参考文献

本稿の執筆にあたり参考にした文献は,以下でリストアップしております。

シェアはこちらからお願いします!

コメント

コメントする

※ Please enter your comments in Japanese to distinguish from spam.

目次