2.9 ディリクレ分布の正規化

そもそもディリクレ分布は、

\(
\begin{eqnarray}
Dir({\bf μ}|{\bf α})=\frac{\Gamma(α_{0})}{\Gamma(α_1)\Gamma(α_2)\cdots\Gamma(α_K)}\prod_{k=1}^{K}μ_{k}^{α_{k}-1}
\end{eqnarray}
\)

正規化されているか確認するには、 \(\prod_{k=1}^{K}μ_{k}^{α_{k}-1}\) を積分してみる。
#若干、問題文と異なるが考え方は同じなので良しとします。

\(
\begin{eqnarray}
&&\int_0^1 \prod_{k=1}^{K}μ_{k}^{α_{k}-1}d{\bf μ} \\
&=& \int_0^1 μ_1^{α_1-1}dμ_1 \times \int_0^{1-μ_1} μ_2^{α_2-1}dμ_2 \times \cdots \times \int_0^{1-μ_1-μ_1-\cdots-μ_{K-2}} μ_{K-1}^{α_{K-1}-1}μ_{K}^{α_K-1}dμ_{K-1} \\
&=& \int_0^1 μ_1^{α_1-1}dμ_1 \times \cdots \times \int_0^{{\color{red}{1-μ_1-μ_2-\cdots-μ_{K-2}}}} μ_{K-1}^{α_{K-1}-1}({\color{red}{1-μ_1-\cdots-μ_{K-2}}}-μ_{K-1})^{α_K-1}dμ_{K-1} \\
\end{eqnarray}
\)

ちなみに最終稿は\(\sum μ_{k}=1\) なので、\(μ_K=1-μ_1-\cdots-μ_{K-2}-μ_{K-1}\) であることを使用している。

\(\int_{0}^p x^{α-1}(p-x)^{β-1}dx = \frac{\Gamma(α)\Gamma(β)}{\Gamma(α+β)}p^{α+β-1}\) なので、上記の最終項は

\(
\begin{eqnarray}
&&\int_0^{{\color{red}{1-μ_1-μ_2-\cdots-μ_{K-2}}}} μ_{K-1}^{α_{K-1}-1}({\color{red}{1-μ_1-\cdots-μ_{K-2}}}-μ_{K-1})^{α_K-1}dμ_{K-1} \\
\\
\\
&=& \frac{\Gamma(α_K)\Gamma(α_{K-1})}{\Gamma(α_K+α_{K-1})}(1-μ_1-\cdots-μ_{K-2})^{α_K+α_{K-1}-1}
\end{eqnarray}
\)

と変形できる。これをさらに最終2項目と合わせると、

\(
\begin{eqnarray}
&&\frac{\Gamma(α_K)\Gamma(α_{K-1})}
{\Gamma(α_K+α_{K-1})}
\int_0^{{\color{red}{1-μ_1-μ_2-\cdots-μ_{K-3}}}} μ_{K-2}^{α_{K-2}-1}({\color{red}{1-μ_1-\cdots-μ_{K-3}}}-μ_{K-2})^{α_K+α_{K-1}-1}dμ_{K-2} \\
\\
\\
&=& \frac{\Gamma(α_K)\Gamma(α_{K-1})}{\Gamma(α_K+α_{K-1})}\frac{\Gamma(α_K+α_{K-1})\Gamma(α_{K-2})}{\Gamma(α_K+α_{K-1}+α_{K-2})}(1-μ_1-\cdots-μ_{K-3})^{α_K+α_{K-1}+α_{K-2}-1} \\
\\
\\
&=& \frac{\Gamma(α_K)\Gamma(α_{K-1})\Gamma(α_{K-2})}{\Gamma(α_K+α_{K-1}+α_{K-2})}(1-μ_1-\cdots-μ_{K-3})^{α_K+α_{K-1}+α_{K-2}-1} \\
\end{eqnarray}
\)

これを繰り返していくと、

\(
\begin{eqnarray}
\int_0^1 \prod_{k=1}^{K}μ_{k}^{α_{k}-1}d{\bf μ}
&=& \frac{\Gamma(α_K)\Gamma(α_{K-1})\Gamma(α_{K-2})\cdots\Gamma(α_1)}{\Gamma(α_K+α_{K-1}+α_{K-2}+\cdots+α_1)}
&=& \frac{\Gamma(α_K)\Gamma(α_{K-1})\Gamma(α_{K-2})\cdots\Gamma(α_1)}{\Gamma(α_0)}
\end{eqnarray}
\)

したがってディクレリ分布が正規化されていることが分かる。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です