統計学実践ワークブックの行間埋め　第15章

\(Z_k\)をデータとして尤度関数\(L(\mu,\sigma)\)を計算すると \begin{eqnarray} L(\mu,\sigma) &=& \displaystyle \prod_{k=1}^n \frac{1}{\sqrt{2\pi\sigma^2\Delta} }\exp \left(-\frac{(Z_k-\mu\Delta)^2}{2\sigma^2\Delta}\right) \\ \\ &=& (2\pi\sigma^2\Delta)^{\frac{n}{2} }\exp \left(-\displaystyle \sum_{k=1}^n \frac{(Z_k-\mu\Delta)^2}{2\sigma^2\Delta}\right)\\ \\ l_n(\mu,\sigma) &=& \log L(\mu,\sigma) \\ \\ &=& -\frac{n}{2}\log (2\pi\sigma^2\Delta)-\displaystyle \sum_{k=1}^n \frac{(Z_k-\mu\Delta)^2}{2\sigma^2\Delta} \\ \\ &=& -\frac{1}{2}\displaystyle \sum_{k=1}^n \frac{(Z_k-\mu\Delta)^2}{\sigma^2\Delta}-\frac{n}{2}\log (\sigma^2\Delta)-\frac{n}{2}\log (2\pi) \end{eqnarray} が得られる。最後の項は\(\mu, \sigma\)にかかわらないため、定数として扱える。

\(\mu\Delta\)を推定するためには、 \begin{eqnarray} \frac{\partial}{\partial \mu\Delta} l_n (\hat{\mu},\sigma)=0 \end{eqnarray} となる\( \mu \Delta\)を決めればよい。 \begin{eqnarray} \frac{\partial}{\partial \mu\Delta}l_n(\hat{\mu},\sigma) &=& \displaystyle \sum_{k=1}^n \frac{(Z_k-\hat{\mu}\Delta)}{\sigma^2\Delta} \\ \\ &=& \frac{\displaystyle \sum_{k=1}^nZ_k-n\hat{\mu}\Delta}{\sigma^2\Delta} \\ \\ &=& 0 \\ \\ \Leftrightarrow \hat{\mu}\Delta&=&\frac{1}{n}\displaystyle \sum_{k=1}^nZ_k \end{eqnarray} 一方で、\(\sigma^2\Delta\)を推定するためには、 \begin{eqnarray} \frac{\partial}{\partial \sigma^2\Delta} l_n (\hat{\mu},\sigma)=0 \end{eqnarray} となる\( \sigma^2 \Delta\)を決めればよい。 \begin{eqnarray} \frac{\partial}{\partial \sigma^2\Delta}l_n(\hat{\mu},\sigma) &=& \frac{1}{2}\displaystyle \sum_{k=1}^n \frac{(Z_k-\mu\Delta)^2}{(\sigma^2\Delta)^2}-\frac{n}{2\sigma^2\Delta} \\ \\ &=& \frac{1}{2\sigma^2\Delta}\left( \left( \displaystyle \sum_{k=1}^n \frac{(Z_k-\mu\Delta)^2}{\sigma^2\Delta}\right)-n\right) \\ \\ &=& 0 \\ \\ \Leftrightarrow \displaystyle \sum_{k=1}^n \frac{(Z_k-\mu\Delta)^2}{\sigma^2\Delta}&=&n \\ \\ \Leftrightarrow \sigma^2\Delta&=&\frac{1}{n}\displaystyle \sum_{k=1}^n (Z_k-\mu\Delta)^2 \\ \\ &=&\frac{1}{n}\displaystyle \sum_{k=1}^n (Z_k^2-2Z_k\mu\Delta+(\mu\Delta)^2) \\ \\ &=&\frac{1}{n}\displaystyle \sum_{k=1}^n (Z_k^2-2Z_k(\frac{1}{n}\displaystyle \sum_{k=1}^nZ_k)+(\frac{1}{n}\displaystyle \sum_{k=1}^nZ_k)^2) \\ \\ &=&\frac{1}{n}\displaystyle \sum_{k=1}^n (Z_k^2)-\frac{2}{n}\displaystyle \sum_{k=1}^n(Z_k)(\frac{1}{n}\displaystyle \sum_{k=1}^nZ_k)+\frac{1}{n}n(\frac{1}{n}\displaystyle \sum_{k=1}^nZ_k)^2 \\ \\ &=&\frac{1}{n}\displaystyle \sum_{k=1}^n Z_k^2-2(\frac{1}{n}\displaystyle \sum_{k=1}^nZ_k)^2+(\frac{1}{n}\displaystyle \sum_{k=1}^nZ_k)^2 \\ \\ &=&\frac{1}{n}\displaystyle \sum_{k=1}^n Z_k^2-\left(\frac{1}{n}\displaystyle \sum_{k=1}^nZ_k\right)^2 \\ \\ \end{eqnarray}

\(W_k\)をデータとして尤度関数\(L(\lambda)\)を計算すると \begin{eqnarray} L(\lambda) &=& \displaystyle \prod_{k=1}^n \lambda e^{-\lambda W_k} \\ \\ &=& \lambda^{n}\exp \left(-\lambda\displaystyle \sum_{k=1}^n W_k\right)\\ \\ \end{eqnarray} よって、対数尤度関数を求めると \begin{eqnarray} l_n(\lambda) &=& \log L(\lambda) \\ \\ &=& n\log\lambda-\lambda\displaystyle \sum_{k=1}^nW_k \\ \\ \end{eqnarray}

\(\lambda\)を推定するためには、 \begin{eqnarray} \frac{\partial}{\partial \lambda} l_n (\hat{\lambda})=0 \end{eqnarray} となる\( \lambda\)を決めればよい。 \begin{eqnarray} \frac{\partial}{\partial \mu\Delta}l_n(\hat{\lambda}) &=& \frac{n}{\hat{\lambda}}-\displaystyle \sum_{k=1}^n W_k \\ \\ &=& 0 \\ \\ \Leftrightarrow \frac{1}{\hat{\lambda}}&=&\frac{1}{n}\displaystyle \sum_{k=1}^n W_k \\ \\ \Leftrightarrow \hat{\lambda}&=&\left(\frac{1}{n}\displaystyle \sum_{k=1}^n W_k\right)^{-1} \\ \\ \end{eqnarray}

\(M_k\)をデータとして尤度関数\(L(\lambda)\)を計算すると \begin{eqnarray} L(\lambda) &=& \displaystyle \prod_{k=1}^n e^{-\lambda \Delta}(\lambda \Delta)^{M_k}/{M_k !} \\ \\ &=& e^{-n\lambda \Delta}(\lambda \Delta)^{\displaystyle \sum_{k=1}^n M_k}/{\displaystyle \prod_{k=1}^nM_k !} \\ \\ \end{eqnarray} よって対数尤度関数を求めると \begin{eqnarray} l_n(\lambda) &=& \log L(\lambda) \\ \\ &=& -n\lambda \Delta+\displaystyle \sum_{k=1}^n M_k\log(\lambda\Delta)-\displaystyle \sum_{k=1}^n\log M_k! \\ \\ \end{eqnarray}

\(\lambda\)を推定するためには、 \begin{eqnarray} \frac{\partial}{\partial \lambda} l_n (\hat{\lambda})=0 \end{eqnarray} となる\( \lambda\)を決めればよい。 \begin{eqnarray} \frac{\partial}{\partial \lambda}l_n(\hat{\lambda}) &=& -n \Delta+\displaystyle \frac{1}{\hat{\lambda}}\sum_{k=1}^n M_k\\ \\ &=& 0 \\ \\ \Leftrightarrow\hat{\lambda}&=&\frac{1}{n\Delta}\displaystyle \sum_{k=1}^n M_k \\ \\ &=&\frac{1}{n\Delta}(\displaystyle \sum_{k=1}^n(N_{k\Delta}-N_{(k-1)\Delta})) \\ \\ &=&\frac{1}{n\Delta}((N_{1\Delta}-N_{0\Delta})+(N_{2\Delta}-N_{1\Delta})+\ldots +(N_{n\Delta}-N_{(n-1)\Delta})) \\ \\ &=&\frac{1}{n\Delta}(N_{n\Delta}-N_{0\Delta})\\ \\ &=&\frac{N_{n\Delta}}{n\Delta}\\ \\ \end{eqnarray} p.119より、時刻0ではイベントが発生しないと考えられるので\(N_{0\Delta}=0\)とした。