本記事は「これなら分かる！はじめての数理統計学」シリーズに含まれます。
不適切な内容があれば，記事下のコメント欄またはお問い合わせフォームよりご連絡下さい。
目次
不偏推定量
真のパラメータ$\theta$はどのような値をとっても期待値が$\theta$に一致するような推定量$\hat{\theta}$を不偏推定量という。すなわち，$\hat{\theta}$が$\theta$の不偏推定量であるとは，すべての$\theta$に対し
\begin{align}
E_{\theta}\left[\hat{\theta}(X)\right] &= \theta
\end{align}
E_{\theta}\left[\hat{\theta}(X)\right] &= \theta
\end{align}
が成り立つことである。
平均二乗誤差をバイアス・バリアンス分解するとバイアスと分散（バリアンス）の和で表されますが，不偏推定量はバイアスを$0$にすることに着目した推定量となっています。実際に，不偏推定量を用いることでバイアスは$0$となる一方で分散が増大してしまう可能性もあります。また，定義からも分かる通り，一般に標本値$X$から計算される真のパラメータ$\theta$の不偏推定量$\hat{\theta}(X)$には一意性はなく，複数の中から最善の推定量を選択する必要があります。
参考文献
本稿の執筆にあたり参考にした文献は，以下でリストアップしております。
コメント