統計検定1級の過去問解答解説を行います。目次は以下をご覧ください。
不適切な内容があれば，記事下のコメント欄またはお問い合わせフォームよりご連絡下さい。
問題
統計検定1級の過去問からの出題になります。統計検定の問題の著作権は日本統計学会に帰属していますので，本稿にて記載することはできません。「演習問題を俯瞰する」で詳しく紹介している公式の過去問題集をご購入いただきますようお願い致します。
解答
正規分布とクラメールラオの下限に関する出題でした。
(1)
\hat{\theta} &= e^{\barx}\label{1_1}
\end{align}
$\mu=\log\theta$より，$X_{1},\ldots,X_{n}$の同時確率密度関数の対数は
\log L(\theta) &= \log \prod_{i=1}^{n}\left[\frac{1}{\sqrt{2\pi}}\exp\left\{-\frac{(x_{i}-\log\theta)^{2}}{2}\right\}\right]
\propto -\frac{1}{2}\sum_{i=1}^{n}(x_{i}-\log\theta)^{2}
\end{align}
となります。$\log L(\theta)$の導関数を$0$とする$\theta$は
\sum_{i=1}^{n}(x_{i}-\log\theta)\frac{1}{\theta}
= \frac{n}{\theta}(\barx-\log \theta)
\end{align}
を満たします。したがって，$\hat{\theta}=e^{\barx}$が最尤推定量となります。ただし，$L(\theta)$が上に凸の関数であり，対数を取る前後で関数の増減は変わらないことを利用しました。実際に，最尤推定量は変数変換を通しても不変であるため，正規分布の母平均の最尤推定量が$\barx$であることを利用しても式($\ref{1_1}$)が得られます。
(2)
定義より，$\hat{\theta}$のバイアスは
Bias[\hat{\theta}]
= E[\hat{\theta}]-\theta
= E[e^{\barx}]-\theta
= M_{\barX}(1)-\theta
= e^{\mu+1/(2n)}-e^{\mu}
= e^{\mu}\{e^{1/(2n)}-1\}
\end{align}
となる。$n>1$のとき$e^{1/(2n)}>1$となるため，$\hat{\theta}$のバイアスは常に正となる。また，
E[\tilde{\theta}]
= E[e^{\barX}]E[e^{-1/(2n)}]
= e^{\mu+1/(2n)}e^{-1/(2n)}
= e^{\mu} = \theta
\end{align}
より，$\tilde{\theta}$は$\theta$の不偏推定量であることが示された。
(3)
平均二乗誤差の定義より，
\mathrm{MSE}
&= E\left[\left(e^{\barX-1/(2n)}-e^{\mu}\right)^{2}\right]
= E[e^{2\barX-1/n}-2e^{\barX-1/(2n)+\mu}+e^{2\mu}]\\[0.7em]
&= E[e^{2\barX}]E[e^{-1/n}]-2E[e^{\barX}]E[e^{-1/(2n)+\mu}]+E[e^{2\mu}]\\[0.7em]
&= M_{\barX}(2)e^{-1/n}-2M_{\barX}(1)e^{-1/(2n)+\mu}+e^{2\mu}\\[0.7em]
&= e^{2\mu+1/(2n)}e^{-1/n}-2e^{\mu+1/(2n)}e^{-1/(2n)+\mu}+e^{2\mu}\\[0.7em]
&= e^{2\mu-1/(2n)}-e^{2\mu} = e^{2\mu}(e^{-1/(2n)}-1)~\rarr~0\quad(n\rarr\infty)
\end{align}
が得られる。
(4)
フィッシャー情報量の定義より，
I(\theta)
&= E\left[\left\{\frac{d}{d\theta}L(\theta)\right\}^{2}\right]
= E\left[\left\{\frac{1}{\theta}\sum_{i=1}^{n}(X_{i}-\log\theta)\right\}^{2}\right]\\[0.7em]
&= \frac{1}{\theta^{2}}E\left[\sum_{i=1}^{n}(X_{i}-\log\theta)^{2}+\sum_{i\neq j}^{n}(X_{i}-\log\theta)(X_{j}-\log\theta)\right]\\[0.7em]
&= \frac{1}{\theta^{2}}\left\{\sum_{i=1}^{n}E\left[(X_{i}-\log\theta)^{2}\right]+\sum_{i\neq j}^{n}E\left[(X_{i}-\log\theta)(X_{j}-\log\theta)\right]\right\}
\end{align}
を計算すればよい。ここで，$X_{1},\ldots,X_{n}$は独立に$\N(\mu,1)$に従うため，
\begin{cases}
\displaystyle
E[X_{i}-\log\theta] = E[X_{i}]-\log\theta = \mu - \mu = 0\\[0.7em]
\displaystyle
E[(X_{i}-\log\theta)^{2}] = V[X_{i}] = 1
\end{cases}
が成り立つため，
I(\theta)
&= \frac{1}{\theta^{2}}\left\{n+0\right\} = \frac{n}{\theta^{2}}
\end{align}
が得られる。次に，$\tilde{\theta}$の分散は
V[\tilde{\theta}]
&= V[e^{\barX}-1/(2n)]
= e^{-1/n}V[e^{\barX}]
= e^{-1/n}\left(E[e^{2\barX}]-E[\barX]^{2}\right)\\[0.7em]
&= e^{-1/n}\left(M_{\barX}(2)-M^{2}_{\barX}(1)\right)
= e^{-1/n}\left(e^{2\mu+2/n}-e^{2\mu+1/n}\right)\\[0.7em]
&= e^{2\mu}\left(e^{1/n}-1\right) > e^{2\mu} = \theta^{2} > \frac{\theta^{2}}{n} = \frac{1}{I(\theta)}
\end{align}
となるため，$V[\tilde{\theta}]$は$1/I(\theta)$よりも大きくなる。
$\tilde{\theta}$がクラメールラオの下限を達成するか確認する問題です。
コメント