1.11 ガウス分布の標本平均と標本分散

対数尤度関数の微分を0とおいて、標本平均と標本分散を求める。
対数尤度関数は以下の式で与えられる。

\(
\begin{eqnarray}
\ln p({\bf x}|μ,\sigma^2) = -\frac{1}{2\sigma^2}\sum_{n=1}^{N}(x_n-μ)^2-\frac{N}{2}\ln \sigma^2-\frac{N}{2}\ln(2\pi)
\end{eqnarray}
\)

まずはμで微分して標本平均を求める。

\(
\begin{eqnarray}
\frac{\partial }{\partial μ}\ln p({\bf x}|μ,\sigma^2) &=& -\frac{1}{2\sigma^2}\sum_{n=1}^{N}-2(x_n-μ) \\
&=& \frac{1}{\sigma^2}\sum_{n=1}^{N}(x_n-μ)
\end{eqnarray}
\)

この微分を0にする\(μ_{ML}\)を求めると、

\(
\begin{eqnarray}
\frac{1}{\sigma^2}\sum_{n=1}^{N}(x_n-μ_{ML}) &=& 0 \\
\sum_{n=1}^{N}(x_n-μ_{ML}) &=& 0 \\
\sum_{n=1}^{N}(x_n)-Nμ_{ML} &=& 0 \\
μ_{ML} &=& \frac{1}{N}\sum_{n=1}^{N}x_n
\end{eqnarray}
\)

次に\(\sigma^2\)で微分する。\(\sigma\)ではなく、\(\sigma^2\)で微分することに注意。
\(\sigma^2=t\)などと置き換えても良いが、ここではそのまま微分する。
ちなみに\((\ln x)’=\frac{1}{x}\)である。

\(
\begin{eqnarray}
\frac{\partial }{\partial \sigma^2}\ln p({\bf x}|μ,\sigma^2) &=&
\frac{1}{2\sigma^4}\sum_{n=1}^{N}(x_n-μ)^2-\frac{N}{2\sigma^2}
\end{eqnarray}
\)

この微分を0にする\(\sigma_{ML}^2\)を求めると、

\(
\begin{eqnarray}
\frac{1}{2\sigma_{ML}^4}\sum_{n=1}^{N}(x_n-μ)^2-\frac{N}{2\sigma_{ML}^2} &=& 0 \\
\frac{1}{2\sigma_{ML}^4}\sum_{n=1}^{N}(x_n-μ)^2 &=& \frac{N}{2\sigma_{ML}^2}
\end{eqnarray}
\)

両辺に\(2\sigma_{ML}^4\)をかけると、

\(
\begin{eqnarray}
\sum_{n=1}^{N}(x_n-μ)^2 &=& N\sigma_{ML}^2 \\
\sigma_{ML}^2 &=& \frac{1}{N}\sum_{n=1}^{N}(x_n-μ)^2
\end{eqnarray}
\)

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です