統計学の行間埋め　第２章

\(\S\)2.2 連続型の確率分布

1. p.37：連続一様分布の平均・分散の導出
▼ 詳細を開く...2025/ 2/ 5作成
平均は \begin{eqnarray} E[X] &=& \int_a^b x\frac{1}{b-a}dx \\ \\ &=& \left[\frac{1}{2(b-a)}x^2 \right]_a^b \\ \\ &=& \frac{b^2-a^2}{2(b-a)} \\ \\ &=& \frac{b+a}{2} \\ \end{eqnarray} と導出できる。分散は \begin{eqnarray} E[X^2] &=& \int_a^b x^2\frac{1}{b-a}dx \\ \\ &=& \left[\frac{1}{3(b-a)}x^3 \right]_a^b \\ \\ &=& \frac{b^3-a^3}{3(b-a)} \\ \\ &=& \frac{b^2+a^2+ab}{3} \\ \\ V[X] &=& E[X^2]-(E[X])^2 \\ \\ &=& \frac{b^2+a^2+ab}{3}-\left( \frac{b+a}{2}\right)^2 \\ \\ &=& \frac{a^2+b^2-2ab}{12}=\frac{(b-a)^2}{12} \end{eqnarray} と導出できる。


2. p.37：\(X\sim N(\mu,\sigma^2)\)のとき\((X-\mu)/\sigma\sim N(0,1)\)になること
▼ 詳細を開く...2025/ 2/ 5作成
変数変換をする。変数変換については統計学実践ワークブックの第四章など参考。 \(X\sim N(\mu,\sigma^2)\)であるとする。\(f(x)\)を\(N(\mu,\sigma^2)\)の関数とし、 \(U=\frac{X-\mu}{\sigma}\)で変数変換すると \begin{eqnarray} U &=& f(u\sigma+\mu)\frac{1}{\frac{\partial}{\partial x}(\frac{x-\mu}{\sigma})} \\ \\ &=& \frac{1}{\sqrt{2\pi \sigma^2}}\exp \left(-\frac{(u\sigma+\mu-\mu)^2}{2\sigma^2} \right)\sigma \\ \\ &=& \frac{1}{\sqrt{2\pi}}\exp \left(-\frac{u^2}{2} \right) \\ \\ &\sim& N(0,1) \end{eqnarray} となることが示される。


3. p.38：正規分布が再生性を持つこと
▼ 詳細を開く...2025/ 2/ 5作成
モーメント母関数を用いる。\(X_1\sim N(\mu_1,\sigma_1^2),X_2\sim N(\mu_2,\sigma_1^2)\)であり、二つが独立であるとき \begin{eqnarray} E[t^{X_1+X_2}] &=& E[t^{X_1}]E[t^{X_2}]&...&\text{独立であるため} \\ \\ &=& \exp\left(\mu_1t+\frac{1}{2}\sigma_1^2t^2\right)\exp\left(\mu_2t+\frac{1}{2}\sigma_2^2t^2\right)&...&\text{式(2.2.2)} \\ \\ &=& \exp\left((\mu_1+\mu_1)t+\frac{1}{2}(\sigma_1^2+\sigma_2^2)t^2\right) \\ \\ \end{eqnarray} が得られる。この式は\(X_1+X_2\sim N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)\)であることを示していることから、再生性があると言える。


4. p.38：指数分布の平均・分散の導出
▼ 詳細を開く...2025/ 2/ 5作成
期待値は \begin{eqnarray} E[X] &=& \int_0^{\infty} x\lambda e^{-\lambda x}dx&...&\text{p.38中部より} \\ \\ &=& \left[x\frac{1}{-\lambda}\lambda e^{-\lambda x} \right]_0^{\infty}+\int_0^{\infty} e^{-\lambda x}dx \\ \\ &=& 0-0+\left[\frac{1}{-\lambda}e^{-\lambda x} \right]_0^{\infty} \\ \\ &=& 0-(-\frac{1}{\lambda})=\frac{1}{\lambda} \\ \end{eqnarray} と導出できる。また、分散は \begin{eqnarray} E[X^2] &=& \int_0^{\infty} x^2\lambda e^{-\lambda x}dx \\ \\ &=& \left[x^2\frac{1}{-\lambda}\lambda e^{-\lambda x} \right]_0^{\infty}+\int_0^{\infty} 2xe^{-\lambda x}dx \\ \\ &=& 0+2\frac{1}{\lambda}\int_0^{\infty} x\lambda e^{-\lambda x}dx \\ \\ &=& \frac{2}{\lambda}E[X]=\frac{2}{\lambda^2} \\ \\ \\ V[X] &=& E[X^2]-(E[X])^2\\ \\ &=& \frac{2}{\lambda^2}-(\frac{1}{\lambda})^2\\ \\ &=& \frac{1}{\lambda^2} \end{eqnarray} と導出できる。


5. p.38下：指数分布の累積分布関数の導出
▼ 詳細を開く...2025/ 2/ 5作成
p.38下の式より \begin{eqnarray} &&\frac{d}{dx}\log \{1-F(x)\}&=&-\lambda \\ \\ &\Rightarrow& \log \{1-F(x)\}&=&-x\lambda+C&...&\text{定数を}C\text{とした} \\ \\ &\Rightarrow& \{1-F(x)\}&=&\exp\left(-x\lambda+C\right)& \\ \\ &\Rightarrow& F(x)&=&1-\exp\left(-x\lambda+C\right)& \\ \\ \\ &&F(0)&=&0&...&\text{p.38下より} \\ \\ &\Leftrightarrow&1-\exp\left(-0\cdot\lambda+C\right)&=&0&\\ \\ &\Leftrightarrow&\exp\left(C\right)&=&1&\\ \\ &\Leftrightarrow&C&=&0&\\ \\ &\therefore& F(x)&=&1-\exp\left(-x\lambda\right) \end{eqnarray} と導出できる。


6. 式(2.2.5)の導出
▼ 詳細を開く...2025/ 2/ 5作成
式(2.2.4)より \begin{eqnarray} \int_0^{\infty}t^{\alpha-1}\exp\left(-t\right)dt &=& \int_0^{\infty}(\beta x)^{\alpha-1}\exp\left(-t\right)(\beta dx)&...&t=\beta x,dt=\beta dx\text{を用いた} \\ \\ &=& \beta^{\alpha}\int_0^{\infty}x^{\alpha-1}\exp\left(-t\right) dx& \\ \\ &=& \Gamma(\alpha)&...&\text{式(2.2.4)右辺} \\ \\ \\ \therefore \int_0^{\infty}x^{\alpha-1}\exp\left(-t\right) dx &=& \frac{\Gamma(\alpha)}{\beta^{\alpha}} \end{eqnarray} と導出できる。


7. 式(2.2.6)の導出
▼ 詳細を開く...2025/ 2/ 5作成
式(2.2.4)より \begin{eqnarray} E[e^{tX}] &=& \int_0^{\infty} e^{tx}\frac{\beta^{\alpha}}{\Gamma (\alpha)}x^{\alpha-1}e^{-\beta x}dx \\ \\ &=& \frac{\beta^{\alpha}}{\Gamma (\alpha)}\int_0^{\infty} x^{\alpha-1}e^{-(\beta-t) x}dx \\ \\ &=& \frac{\beta^{\alpha}}{\Gamma (\alpha)}\frac{\Gamma(\alpha)}{\{\beta-t\}^{\alpha} }&...&\text{式(2.2.5)において}\beta\to\beta-t\text{とした(1)} \\ \\ &=& \left(\frac{\beta}{\beta-t}\right)^{\alpha} \end{eqnarray} と導出できる。(1)では、元々\(\beta\gt 0\)の条件があるため、\(\beta-t\gt 0\)より\(\beta\gt t\)が条件となる。


8. 式(2.2.7)の導出
▼ 詳細を開く...2025/ 2/ 5作成
モーメント母関数を用いて求める。 \begin{eqnarray} E[X] &=& \left.\frac{\partial}{\partial t}M(t;\alpha,\beta)\right|_{t=0} \\ \\ &=& \left.\frac{\partial}{\partial t}\left(\frac{\beta}{\beta-t}\right)^{\alpha}\right|_{t=0}&...&\text{式(2.2.6)} \\ \\ &=& \left.\frac{\beta}{(\beta-t)^2}\alpha\left(\frac{\beta}{\beta-t}\right)^{\alpha-1}\right|_{t=0} \\ \\ &=& \frac{\beta}{(\beta-0)^2}\alpha\left(\frac{\beta}{\beta-0}\right)^{\alpha-1} \\ \\ &=& \frac{\alpha}{\beta} \end{eqnarray} と導出できる。また、分散は \begin{eqnarray} E[X^2] &=& \left.\frac{\partial^2}{\partial t^2}M(t;\alpha,\beta)\right|_{t=0} \\ \\ &=& \left.\frac{\partial}{\partial t}\frac{\beta}{(\beta-t)^2}\alpha\left(\frac{\beta}{\beta-t}\right)^{\alpha-1}\right|_{t=0}& \\ \\ &=& \left.\frac{\partial}{\partial t}\frac{1}{\beta}\frac{\beta^2}{(\beta-t)^2}\alpha\left(\frac{\beta}{\beta-t}\right)^{\alpha-1}\right|_{t=0}& \\ \\ &=& \left.\frac{\partial}{\partial t}\frac{\alpha}{\beta}\left(\frac{\beta}{\beta-t}\right)^{\color{red}\alpha+1}\right|_{t=0}& \\ \\ &=& \left.\frac{\alpha}{\beta}(\alpha+1)\frac{\beta}{(\beta-t)^2}\left(\frac{\beta}{\beta-t}\right)^{\alpha}\right|_{t=0}& \\ \\ &=& \frac{\alpha}{\beta}(\alpha+1)\frac{\beta}{(\beta-0)^2}\left(\frac{\beta}{\beta-0}\right)^{\alpha}& \\ \\ &=& \frac{\alpha(\alpha+1)}{\beta^2}& \\ \\ \\ V[X] &=& E[X^2]-(E[X])^2 \\ \\ &=& \frac{\alpha(\alpha+1)}{\beta^2}-\left(\frac{\alpha}{\beta}\right)^2 \\ \\ &=& \frac{\alpha}{\beta^2} \end{eqnarray} と導出できる。


9. p.39下：ガンマ分布の再生性の導出
▼ 詳細を開く...2025/ 2/ 5作成
\(X_1\sim Ga(\alpha_1,\beta),X_2\sim Ga(\alpha_2,\beta)\)が独立だとすると、モーメント母関数を用いて \begin{eqnarray} E[e^{t(X_1+X_2)}] &=& E[e^{tX_1}]E[e^{tX_2}]&...&\text{独立であるため} \\ \\ &=& \left(\frac{\beta}{\beta-t}\right)^{\alpha_1}\left(\frac{\beta}{\beta-t}\right)^{\alpha_2}&...&\text{式(2.2.6)より} \\ \\ &=& \left(\frac{\beta}{\beta-t}\right)^{\alpha_1+\alpha_2} \end{eqnarray} と導出できる。この式は\(Ga(\alpha_1+\alpha_2,\beta)\)を表しているため、ガンマ分布には再生性がある。


10. 式(2.2.8)の導出
▼ 詳細を開く...2025/ 2/ 6作成
\begin{eqnarray} \int_w^{\infty}\frac{\lambda^k}{\Gamma(k)}t^{k-1}\exp\left(-\lambda t\right)dt &=& \left[\frac{\lambda^k}{\Gamma(k)}t^{k-1}\frac{-1}{\lambda}\exp\left(-\lambda t\right)\right]_w^{\infty}+\int_w^{\infty}\frac{\lambda^k}{\Gamma(k)}(k-1)t^{k-2}\frac{1}{\lambda}\exp\left(-\lambda t\right)dt \\ \\ &=& \left[\frac{\lambda^k}{\Gamma(k)}w^{k-1}\frac{1}{\lambda}\exp\left(-\lambda w\right)\right]+\int_w^{\infty}\frac{\lambda^k}{(k-1)\Gamma(k-1)}(k-1)t^{k-2}\frac{1}{\lambda}\exp\left(-\lambda t\right)dt&...&(x-1)\Gamma(x-1)=\Gamma(x)\text{より} \\ \\ &=& \frac{\lambda^{k-1}}{(k-1)!}w^{k-1}\exp\left(-\lambda w\right)+\int_w^{\infty}\frac{\lambda^{k-1}}{\Gamma(k-1)}t^{k-2}\exp\left(-\lambda t\right)dt&...&\Gamma(x)=(x-1)!\text{より} \\ \\ &=& \frac{\lambda^{k-1}}{(k-1)!}w^{k-1}\exp\left(-\lambda w\right)+\frac{\lambda^{k-2}}{(k-2)!}w^{k-2}\exp\left(-\lambda w\right)+\int_w^{\infty}\frac{\lambda^{k-2}}{\Gamma(k-2)}t^{k-3}\exp\left(-\lambda t\right)dt&...&\text{(1)} \\ \\ &=& \frac{\lambda^{k-1}}{(k-1)!}w^{k-1}\exp\left(-\lambda w\right)+\ldots+\frac{\lambda^{1}}{1!}w^{1}\exp\left(-\lambda w\right)+\int_w^{\infty}\frac{\lambda^{1}}{\Gamma(1)}t^{1-1}\exp\left(-\lambda t\right)dt&...&\text{(1)} \\ \\ &=& \frac{\lambda^{k-1}}{(k-1)!}w^{k-1}\exp\left(-\lambda w\right)+\ldots+\frac{\lambda^{1}}{1!}w^{1}\exp\left(-\lambda w\right)+\int_w^{\infty}\lambda\exp\left(-\lambda t\right)dt \\ \\ &=& \frac{\lambda^{k-1}}{(k-1)!}w^{k-1}\exp\left(-\lambda w\right)+\ldots+\frac{\lambda^{1}}{1!}w^{1}\exp\left(-\lambda w\right)+\left[\frac{-1}{\lambda}\lambda\exp\left(-\lambda t\right)\right]_w^{\infty} \\ \\ &=& \frac{\lambda^{k-1}}{(k-1)!}w^{k-1}\exp\left(-\lambda w\right)+\ldots+\frac{\lambda^{1}}{1!}w^{1}\exp\left(-\lambda w\right)+\exp\left(-\lambda w\right) \\ \\ &=& \displaystyle\sum_{x=0}^{k-1}\frac{(\lambda w)^x}{x!}\exp\left(-\lambda w\right) \end{eqnarray} と導出できる。
(1)では、初めの積分の中身を\(g(k,\lambda;t)\)とした時に、部分積分後には\(g(k-1,\lambda;t)\)となっていることを逐次的に用いた。


11. ベータ分布の期待値・分散の導出
▼ 詳細を開く...2025/ 2/ 6作成
期待値は\begin{eqnarray} E[X] &=& \int_0^{1} x\frac{1}{B(\alpha,\beta)}x^{\alpha-1}(1-x)^{\beta-1}dx \\ \\ &=& \int_0^{1} \frac{1}{B(\alpha+1,\beta)}x^{(\alpha+1)-1}(1-x)^{\beta-1}\frac{B(\alpha+1,\beta)}{B(\alpha,\beta)}dx \\ \\ &=& \frac{B(\alpha+1,\beta)}{B(\alpha,\beta)}&...&(1) \\ \\ &=& \frac{\Gamma(\alpha+1)\Gamma(\beta)}{\Gamma(\alpha+\beta+1)} \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}&...&\text{式(2.2.10)より} \\ \\ &=& \frac{\alpha\Gamma(\alpha)\Gamma(\beta)}{(\alpha+\beta)\Gamma(\alpha+\beta)} \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}&...&x\Gamma(x)=\Gamma(x+1)\text{より} \\ \\ &=& \frac{\alpha}{\alpha+\beta} \\ \end{eqnarray} と導出できる。
(1)において\(\int_0^{1} \frac{1}{B(a+1,b)}x^{(a+1)-1}(1-x)^{b-1}dx\)は確率密度関数\(B(a+1,b)\)の全区間での積分なので1になる。

分散については \begin{eqnarray} E[X^2] &=& \int_0^{1} x^2\frac{1}{B(\alpha,\beta)}x^{\alpha-1}(1-x)^{\beta-1}dx \\ \\ &=& \int_0^{1} \frac{1}{B(\alpha+2,\beta)}x^{(\alpha+2)-1}(1-x)^{\beta-1}\frac{B(\alpha+2,\beta)}{B(\alpha,\beta)}dx&...&(2) \\ \\ &=& \frac{B(\alpha+2,\beta)}{B(\alpha,\beta)} \\ \\ &=& \frac{\Gamma(\alpha+2)\Gamma(\beta)}{\Gamma(\alpha+\beta+2)} \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)} \\ \\ &=& \frac{\alpha(\alpha+1)\Gamma(\alpha)\Gamma(\beta)}{(\alpha+\beta)(\alpha+\beta+1)\Gamma(\alpha+\beta)} \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)} \\ \\ &=& \frac{\alpha(\alpha+1)}{(\alpha+\beta)(\alpha+\beta+1)} \\ \\ \\ V[X] &=& E[X^2]-(E[X])^2\\ \\ &=& \frac{\alpha(\alpha+1)}{(\alpha+\beta)(\alpha+\beta+1)}-\left(\frac{\alpha}{\alpha+\beta}\right)^2 \\ \\ &=& \frac{\alpha(\alpha+1)(\alpha+\beta)-\alpha^2(\alpha+\beta+1)}{(\alpha+\beta)^2(\alpha+\beta+1)} \\ \\ &=& \frac{\alpha \beta}{(\alpha+\beta)^2(\alpha+\beta+1)} \\ \end{eqnarray} と導出できる。
(2)では\(\int_0^{1} \frac{1}{B(\alpha+2,\beta)}x^{(\alpha+2)-1}(1-x)^{\beta-1}dx\)は確率密度関数\(B(\alpha+2,\beta)\)の全区間での積分なので1になることを用いた。


12. 式(2.2.10)の導出
▼ 詳細を開く...2025/ 2/ 6作成
こちらの解説など参考。


13. p.41上部：ベータ分布と二項分布の関係式の導出
▼ 詳細を開く...2025/ 2/ 6作成
\begin{eqnarray} \int_p^1\frac{z^{k-1}(1-z)^{n-k}}{B(k,n-k+1)}dz &=& \left[\frac{z^{k-1}}{B(k,n-k+1)}\frac{-1}{n-k+1}(1-z)^{n-k+1}\right]_p^1+\int_p^1\frac{(k-1)z^{k-2}}{B(k,n-k+1)}\frac{1}{n-k+1}(1-z)^{n-k+1}dz \\ \\ &=& -\left[\frac{p^{k-1}}{B(k,n-k+1)}\frac{-1}{n-k+1}(1-p)^{n-k+1}\right]+\int_p^1\frac{(k-1)z^{k-2}}{B(k,n-k+1)}\frac{1}{n-k+1}(1-z)^{n-k+1}dz&...&\text{式(2.2.10)} \\ \\ &=& \frac{p^{k-1}\Gamma(k+n-k+1)}{\Gamma(k)\Gamma(n-k+1)}\frac{1}{n-k+1}(1-p)^{n-k+1}+\int_p^1\frac{(k-1)z^{k-2}\Gamma(k+n-k+1)}{\Gamma(k)\Gamma(n-k+1)}\frac{1}{n-k+1}(1-z)^{n-k+1}dz \\ \\ &=& \frac{\Gamma(n+1)}{\Gamma(k)\Gamma(n-k+1)}\frac{1}{n-k+1}p^{k-1}(1-p)^{n-k+1}+\int_p^1\frac{(k-1)\Gamma(n+1)}{(k-1)!\Gamma(n-k+1)}\frac{1}{n-k+1}z^{k-2}(1-z)^{n-k+1}dz \\ \\ &=& \frac{n!}{(k-1)!(n-k)!}\frac{1}{n-k+1}p^{k-1}(1-p)^{n-k+1}+\int_p^1\frac{\Gamma(n+1)}{(k-2)!(n-k+1)\Gamma(n-k+1)}z^{k-2}(1-z)^{n-k+1}dz&...&\Gamma(x)=(x-1)! \\ \\ &=& \frac{n!}{(k-1)!(n-k+1)!}p^{k-1}(1-p)^{n-k+1}+\int_p^1\frac{\Gamma(n+1)}{\Gamma(k-1)\Gamma(n-k+2)}z^{k-2}(1-z)^{n-k+1}dz \\ \\ &=& {}_n\text{C}_{k-1}p^{k-1}(1-p)^{n-k+1}+\int_p^1\frac{\Gamma(k-1+n-k+2)}{\Gamma(k-1)\Gamma(n-k+2)}z^{k-2}(1-z)^{n-k+1}dz \\ \\ &=& {}_n\text{C}_{k-1}p^{k-1}(1-p)^{n-k+1}+\int_p^1\frac{1}{B(k-1,n-k+2)}z^{k-2}(1-z)^{n-k+1}dz&...&\text{式(2.2.10)} \\ \\ &=& {}_n\text{C}_{k-1}p^{k-1}(1-p)^{n-k+1}+{}_n\text{C}_{k-2}p^{k-2}(1-p)^{n-k+2}+\int_p^1\frac{1}{B(k-2,n-k+3)}z^{k-3}(1-z)^{n-k+2}dz&...&\text{(1)} \\ \\ &=& {}_n\text{C}_{k-1}p^{k-1}(1-p)^{n-k+1}+\ldots+{}_n\text{C}_{1}p^{1}(1-p)^{n-1}+\int_p^1\frac{1}{B(1,n)}z^{0}(1-z)^{n-1}dz&...&\text{(1)} \\ \\ &=& {}_n\text{C}_{k-1}p^{k-1}(1-p)^{n-k+1}+\ldots+{}_n\text{C}_{1}p^{1}(1-p)^{n-1}+\frac{1}{B(1,n)}\int_p^1(1-z)^{n-1}dz \\ \\ &=& {}_n\text{C}_{k-1}p^{k-1}(1-p)^{n-k+1}+\ldots+{}_n\text{C}_{1}p^{1}(1-p)^{n-1}+\frac{1}{B(1,n)}\left[\frac{-1}{n}(1-z)^n\right]_p^1 \\ \\ &=& {}_n\text{C}_{k-1}p^{k-1}(1-p)^{n-k+1}+\ldots+{}_n\text{C}_{1}p^{1}(1-p)^{n-1}+\frac{\Gamma(n+1)}{\Gamma(1)\Gamma(n)}\frac{1}{n}(1-p)^n \\ \\ &=& {}_n\text{C}_{k-1}p^{k-1}(1-p)^{n-k+1}+\ldots+{}_n\text{C}_{1}p^{1}(1-p)^{n-1}+\frac{n!}{0!(n-1)!}\frac{1}{n}(1-p)^n \\ \\ &=& {}_n\text{C}_{k-1}p^{k-1}(1-p)^{n-k+1}+\ldots+{}_n\text{C}_{1}p^{1}(1-p)^{n-1}+\frac{n!}{n!}(1-p)^n \\ \\ &=& {}_n\text{C}_{k-1}p^{k-1}(1-p)^{n-k+1}+\ldots+{}_n\text{C}_{1}p^{1}(1-p)^{n-1}+(1-p)^n \\ \\ &=& \displaystyle\sum_{x=0}^{k-1}{}_n\text{C}_{x}p^{x}(1-p)^{n-x} \end{eqnarray} が得られる。
(1)では初めの積分の中身を\(g(k,n;z)\)とした時に、部分積分した後、\(g(k-1),n;z\)となっていることを用い、逐次的に適用した。


14. p.41中部：\(f(x,y)\)の導出
▼ 詳細を開く...2025/ 2/ 6作成
\(U\sim Ga(\alpha,\gamma), Y\sim Ga(\beta,\gamma)\)とする。変数変換として、\(X=\frac{U}{U+V}, Y=U+V\)とする。
このとき、 \( u=xy,v=(1-x)y \)であり、ヤコビアン\(J\)は、 \begin{eqnarray} J&=& \begin{vmatrix} \frac{\partial U}{\partial X} &\frac{\partial U}{\partial Y} \\ \frac{\partial V}{\partial X} &\frac{\partial V}{\partial Y} \\ \end{vmatrix} \\ \\ &=& \begin{vmatrix} Y & X \\ -Y &1-X \\ \end{vmatrix} \\ \\ &=&Y(1-X)-X(-Y)=Y \end{eqnarray} が得られる。\(U,V\)の確率密度関数を\(f_U(u),f_V(v)\)とすると \begin{eqnarray} f(x,y) &=& f_U(xy)f_V((1-x)y)J \\ \\ &=& \frac{\gamma^{\alpha}}{\Gamma (\alpha)}{(xy)}^{\alpha-1}e^{-xy\gamma}\frac{\gamma^{\beta}}{\Gamma (\beta)}{(y(1-x))}^{\beta-1}e^{-x(1-y)\gamma}{y} \\ \\ &=& \frac{1}{\Gamma (\alpha)\Gamma (\beta)}{x}^{\alpha-1}{(1-x)}^{\beta-1}\gamma^{\alpha+\beta}y^{\alpha-1+\beta-1+1}e^{-y\gamma} \\ \\ &=& \frac{\color{red}\Gamma(\alpha+\beta)}{\Gamma (\alpha)\Gamma (\beta)}{x}^{\alpha-1}{(1-x)}^{\beta-1}\frac{\gamma^{\alpha+\beta}}{\color{red}\Gamma(\alpha+\beta)}y^{\alpha+\beta-1}e^{-y\gamma} \\ \end{eqnarray} と導出できる。


15. 式(2.2.11)の導出
▼ 詳細を開く...2025/ 2/ 8作成
変数変換をする。変数変換については統計学実践ワークブックや 現代数理統計学の基礎
確率変数\(Y\)を表す確率密度関数を\(f_Y(y)=\frac{1}{\pi}\)と書けるので、確率変数\(X\)を表す確率密度関数を\(f_X(x)\)とすると \begin{eqnarray} f_X(x) &=& f_Y(x)\frac{1}{\frac{dx}{dy}} \\ \\ &=& \frac{1}{\pi}\frac{1}{\frac{d}{dy}\tan y} \\ \\ &=& \frac{1}{\pi}\frac{1}{\frac{1}{\cos ^2y}} \\ \\ &=& \frac{1}{\pi}\cos ^2y \\ \\ &=& \frac{1}{\pi}\frac{1}{\tan^2y+1}\\ \\ &=& \frac{1}{\pi}\frac{1}{x^2+1}&...&y=\arctan x\text{より}\\ \\ \end{eqnarray} と導出できる。


16. p.42：コーシー分布の平均・分散が存在しないこと
▼ 詳細を開く...2025/ 2/ 8作成
平均値を求めると \begin{eqnarray} E[X] &=& \displaystyle\lim_{R\to\infty}\int_{R}^Rxf(x)dx \\ \\ &=& \displaystyle\lim_{R\to\infty}\int_{R}^Rx\frac{1}{\pi(1+x^2)}dx \\ \\ &=& \displaystyle\lim_{R\to\infty}\left[\frac{1}{2\pi}\log(1+x^2)\right]_{R}^R \\ \\ \end{eqnarray} となるが、 \begin{eqnarray} \displaystyle\lim_{R\to\infty}\frac{1}{2\pi}\log(1+x^2)\rightarrow \infty \\ \\ \end{eqnarray} より、積分の結果が不定形になってしまうため、平均値が存在しないと言える。
また分散は \begin{eqnarray} V[X]&=&E[X^2]-(E[X])^2 \end{eqnarray} と書けるが\(E[X]\)は不定形であるため分散も存在しない。


17. p.42：対数正規分布の確率密度関数の導出
▼ 詳細を開く...2025/ 2/ 8作成
変数変換をする。変数変換については統計学実践ワークブックや 現代数理統計学の基礎 などが参考。
確率変数\(Y\)を表す確率密度関数を\(f_Y(y)\)とし、確率変数\(X\)を表す確率密度関数を\(f_X(x)\)とすると \begin{eqnarray} f_X(x) &=& f_Y(y)\frac{1}{\frac{dx}{dy}} \\ \\ &=& \frac{1}{\sqrt{2\pi\sigma^2}}\exp\left\{-\frac{(y-\mu)^2}{2\sigma^2} \right\}\frac{1}{\frac{d}{dy}e^y} \\ \\ &=& \frac{1}{\sqrt{2\pi\sigma^2}}\exp\left\{-\frac{(y-\mu)^2}{2\sigma^2} \right\}\frac{1}{e^y} \\ \\ &=& \frac{1}{\sqrt{2\pi\sigma^2}}\exp\left\{-\frac{(\log x-\mu)^2}{2\sigma^2} \right\}\frac{1}{x}&...&x=\log y,y=e^x\text{を用いた} \\ \\ &=& \frac{1}{\sqrt{2\pi\sigma^2}}\frac{1}{x}\exp\left\{-\frac{(\log x-\mu)^2}{2\sigma^2} \right\} \\ \\ \end{eqnarray} と導出できる。


18. p.42：対数正規分布の平均・分散の導出
▼ 詳細を開く...2025/ 2/ 8作成
確率変数\(Y\)を表す確率密度関数を\(f_Y(y)\)とし、確率変数\(X\)を表す確率密度関数を\(f_X(x)\)とすると \begin{eqnarray} E[X] &=& \int_0^{\infty}xf_X(x)dx \\ \\ &=& \int_0^{\infty}\left\{f_X(x)\frac{1}{\frac{1}{x}}\right\}dx \\ \\ &=& \int_0^{\infty}\left\{f_X(x)\frac{1}{\frac{d}{dx}\log x}\right\}dx \\ \\ &=& \int_{-\infty}^{\infty}f_Y(y)e^ydy&...&\text{(1)} \\ \\ &=& E[e^Y] \\ \\ &=& E[e^{tY}]|_{t=1} \\ \\ &=& \exp\left(\mu+\frac{1}{2}\sigma^2\right)&...&\text{式(2.2.2)より} \\ \\ \\ E[X^2] &=& \int_0^{\infty}x^2f_X(x)dx \\ \\ &=& \int_0^{\infty}x\left\{f_X(x)\frac{1}{\frac{1}{x}}\right\}dx \\ \\ &=& \int_0^{\infty}x\left\{f_X(x)\frac{1}{\frac{d}{dx}\log x}\right\}dx \\ \\ &=& \int_{-\infty}^{\infty}e^yf_Y(y)e^ydy&...&\text{(1)} \\ \\ &=& \int_{-\infty}^{\infty}e^{2y}f_Y(y)dy \\ \\ &=& E[e^{2Y}] \\ \\ &=& E[e^{tY}]|_{t=2} \\ \\ &=& \exp\left(2\mu+2\sigma^2\right)&...&\text{式(2.2.2)より} \\ \\ V[X] &=& E[X^2]-(E[X])^2 \\ \\ &=& \exp\left(2\mu+2\sigma^2\right)-(\exp\left(\mu+\frac{1}{2}\sigma^2\right))^2 \\ \\ &=& \exp\left(2\mu+2\sigma^2\right)-\exp\left(2\mu+\sigma^2\right) \\ \\ &=& \exp\left(2\mu+\sigma^2\right)\left\{\exp\sigma^2-1\right\} \\ \\ \end{eqnarray} と導出できる。
(1)では変数変換として\(x=e^y,dx=e^ydy\)を用いることで、「p.42：対数正規分布の確率密度関数の導出」などで示した確率密度関数の変換をしている。


19. 式(2.2.12)の導出
▼ 詳細を開く...2025/ 2/ 8作成
p.42下のワイブル分布の微分方程式を解くと \begin{eqnarray} &&\frac{d}{dx}\log\{1-F(x)\}&=&-cx^b \\ \\ &\Rightarrow& \log\{1-F(x)\}&=&-\frac{c}{b+1}x^{b+1}+const. \\ \\ &\Leftrightarrow& 1-F(x)&=&\exp\left(-\frac{c}{b+1}x^{b+1}+const.\right) \\ \\ &\Leftrightarrow& F(x)&=&1-\exp\left(-\frac{c}{b+1}x^{b+1}+const.\right) \\ \\ \end{eqnarray} が導出できる。ここで\(F(0)=0\)なので \begin{eqnarray} F(0)&=&1-\exp\left(-\frac{c}{b+1}0^{b+1}+const.\right) \\ \\ &=&1-\exp\left(const.\right) \\ \\ &=& 0 \\ \\ \Leftrightarrow const.&=&0 \end{eqnarray} が得られ、 \begin{eqnarray} &&F(x)&=&1-\exp\left(-\frac{c}{b+1}x^{b+1}\right) \\ \\ &\Rightarrow& f(x)&=&\frac{d}{dx}F(x) \\ \\ &&&=& cx^b\exp\left(-\frac{cx^{b+1}}{b+1}\right) \end{eqnarray} と導出できる。


20. p.42下：ワイブル分布は\(Y=X^{b+1}/(b+1)\)が指数分布\(EXP(c)\)に従うときに\(X\)が従う分布であることの導出
▼ 詳細を開く...2025/ 2/ 8作成
変数変換をする。変数変換については統計学実践ワークブックや 現代数理統計学の基礎 などが参考。
確率変数\(Y\)を表す確率密度関数を\(f_Y(y)\)とし、確率変数\(X\)を表す確率密度関数を\(f_X(x)\)とすると \begin{eqnarray} f_X(x) &=& f_Y(y)\frac{1}{\frac{dx}{dy}} \\ \\ &=& c\exp(-cy)\frac{1}{\frac{d}{dy}\left((b+1)y\right)^{\frac{1}{b+1}}}&...&\text{指数分布はp.38より} \\ \\ &=& c\exp(-cy)\frac{1}{\frac{(b+1)^{\frac{1}{b+1}}}{b+1}y^{\frac{1}{b+1}-1}} \\ \\ &=& c\exp(-cy)\frac{1}{(b+1)^{\frac{1}{b+1}-1}y^{\frac{1}{b+1}-1}} \\ \\ &=& c\exp(-c\frac{x^{b+1}}{b+1})\frac{1}{(b+1)^{\frac{1}{b+1}-1}(\frac{x^{b+1}}{b+1})^{\frac{1}{b+1}-1}} \\ \\ &=& c\exp(-c\frac{x^{b+1}}{b+1})\frac{1}{(x^{b+1})^{\frac{1}{b+1}-1}} \\ \\ &=& c\exp(-c\frac{x^{b+1}}{b+1})\frac{1}{x^{1-(b+1)}} \\ \\ &=& cx^b\exp(-\frac{cx^{b+1}}{b+1}) \\ \\ \end{eqnarray} と導出できる。


21. p.43上：ワイブル分布の平均・分散の導出
▼ 詳細を開く...2025/ 2/ 8作成
\begin{eqnarray} E[X] &=& \int_0^{\infty}xf(x)dx \\ \\ &=& \int_0^{\infty}xcx^b\exp\left(-\frac{cx^{b+1}}{b+1}\right)dx \\ \\ &=& \int_0^{\infty}cx^{b+1}\exp\left(-\frac{cx^{b+1}}{b+1}\right)dx \\ \\ &=& \int_0^{\infty}c(b+1)y\exp\left(-\frac{c(b+1)y}{b+1}\right)\{(b+1)y\}^{-\frac{b}{b+1}}dy&...&y=\frac{x^{b+1}}{b+1},dx=\{(b+1)y\}^{-\frac{b}{b+1}}dy\text{を用いた。} \\ \\ &=& \int_0^{\infty}c\{(b+1)y\}^{-\frac{b}{b+1}+1}\exp\left(-cy\right)dy& \\ \\ &=& c(b+1)^{-\frac{b}{b+1}+1}\int_0^{\infty}y^{-\frac{b}{b+1}+2-1}\exp\left(-cy\right)dy& \\ \\ &=& c(b+1)^{\frac{1}{b+1}}\int_0^{\infty}y^{1+\frac{1}{b+1}-1}\exp\left(-cy\right)dy& \\ \\ &=& c(b+1)^{\frac{1}{b+1}}\frac{\Gamma(1+\frac{1}{b+1})}{c^{1+\frac{1}{b+1}}}&...&\text{式(2.2.5)で}\alpha=1+\frac{1}{b+1},\beta=c\text{とした。} \\ \\ &=& (b+1)^{\frac{1}{b+1}}\frac{\Gamma(1+\frac{1}{b+1})}{c^{\frac{1}{b+1}}}& \\ \\ &=& \left(\frac{b+1}{c}\right)^{\frac{1}{b+1}}\Gamma(1+\frac{1}{b+1})& \\ \\ &=& \left(\frac{b+1}{c}\right)^{\kappa}\Gamma(1+\kappa)&...&\kappa=\frac{1}{b+1} \\ \\ &=& m\Gamma(1+\kappa)&...&m=\left(\frac{b+1}{c}\right)^{\kappa} \\ \\ \end{eqnarray} と導出できる。また、分散は \begin{eqnarray} E[X^2] &=& \int_0^{\infty}x^2f(x)dx \\ \\ &=& \int_0^{\infty}x^2cx^b\exp\left(-\frac{cx^{b+1}}{b+1}\right)dx \\ \\ &=& \int_0^{\infty}cx^{b+2}\exp\left(-\frac{cx^{b+1}}{b+1}\right)dx \\ \\ &=& \int_0^{\infty}c((b+1)y)^{\frac{b+2}{b+1}}\exp\left(-\frac{c(b+1)y}{b+1}\right)\{(b+1)y\}^{-\frac{b}{b+1}}dy&...&y=\frac{x^{b+1}}{b+1},dx=\{(b+1)y\}^{-\frac{b}{b+1}}dy\text{を用いた。} \\ \\ &=& \int_0^{\infty}c\{(b+1)y\}^{\frac{b+2}{b+1}-\frac{b}{b+1}}\exp\left(-cy\right)dy& \\ \\ &=& c(b+1)^{\frac{b+2}{b+1}-\frac{b}{b+1}}\int_0^{\infty}y^{\frac{b+2}{b+1}-\frac{b}{b+1}}\exp\left(-cy\right)dy& \\ \\ &=& c(b+1)^{\frac{2}{b+1}}\int_0^{\infty}y^{\frac{2}{b+1}}\exp\left(-cy\right)dy& \\ \\ &=& c(b+1)^{\frac{2}{b+1}}\int_0^{\infty}y^{1+\frac{2}{b+1}-1}\exp\left(-cy\right)dy& \\ \\ &=& c(b+1)^{\frac{2}{b+1}}\frac{\Gamma(1+\frac{2}{b+1})}{c^{1+\frac{2}{b+1}}}&...&\text{式(2.2.5)で}\alpha=1+\frac{2}{b+1},\beta=c\text{とした。} \\ \\ &=& (b+1)^{\frac{2}{b+1}}\frac{\Gamma(1+\frac{2}{b+1})}{c^{\frac{2}{b+1}}}& \\ \\ &=& \left(\frac{b+1}{c}\right)^{\frac{2}{b+1}}\Gamma(1+\frac{2}{b+1})& \\ \\ &=& \left(\frac{b+1}{c}\right)^{2\kappa}\Gamma(1+2\kappa)&...&\kappa=\frac{1}{b+1} \\ \\ \\ V[X] &=& E[X^2]-(E[X])^2 \\ \\ &=& \left(\frac{b+1}{c}\right)^{2\kappa}\Gamma(1+2\kappa)-(\left(\frac{b+1}{c}\right)^{\kappa}\Gamma(1+\kappa))^2 \\ \\ &=& \left(\frac{b+1}{c}\right)^{2\kappa}\Gamma(1+2\kappa)-\left(\frac{b+1}{c}\right)^{2\kappa}(\Gamma(1+\kappa))^2 \\ \\ &=& \left(\frac{b+1}{c}\right)^{2\kappa}\{\Gamma(1+2\kappa)-(\Gamma(1+\kappa))^2\} \\ \\ &=& m^2\{\Gamma(1+2\kappa)-(\Gamma(1+\kappa))^2\}&...&m=\left(\frac{b+1}{c}\right)^{\kappa} \\ \\ \end{eqnarray} と導出できる。


22. p.43下：ロジスティック分布のモーメント母関数の導出
▼ 詳細を開く...2025/ 2/10作成
\begin{eqnarray} M(t) &=& E[e^{tX}] \\ \\ &=& \int_{-\infty}^{\infty}e^{tx}f(x)dx \\ \\ &=& \int_{-\infty}^{\infty}(e^{x})^t\frac{\exp(-x)}{\{1+\exp(-x)\}^2}dx \\ \\ &=& \int_{0}^{1}\left(\frac{y}{1-y}\right)^tdy&...&y=\frac{1}{1+\exp(-x)},e^x=\frac{1-y}{y},dy=\frac{\exp(-x)}{\{1+\exp(-x)\}^2}dx\text{を用いた。} \\ \\ &=& \int_{0}^{1}y^t(1-y)^{-t}dy \\ \\ &=& \int_{0}^{1}y^{t+1-1}(1-y)^{-t+1-1}dy \\ \\ &=& B(t+1,-t+1)&...&\text{p.40下のベータ関数より} \\ \\ &=& \frac{\Gamma(t+1)\Gamma(-t+1)}{\Gamma((t+1)+(-t+1))} \\ \\ &=& \frac{\Gamma(t+1)\Gamma(-t+1)}{\Gamma(2)} \\ \\ &=& \Gamma(t+1)\Gamma(-t+1)&...&\Gamma(2)=1!=1\text{より} \\ \\ \end{eqnarray} と導出できる。


23. p.43下：ロジスティック分布の平均・分散の導出
▼ 詳細を開く...2025/ 2/10作成
平均は \begin{eqnarray} E[X] &=& \left.\frac{\partial}{\partial t} M(t)\right|_{t=0} \\ \\ &=& \left.\frac{\partial}{\partial t} \Gamma(t+1)\Gamma(-t+1)\right|_{t=0} \\ \\ &=& \left.\frac{\partial\Gamma(t+1)}{\partial t} \Gamma(-t+1)+(-t+1)^{\prime}\frac{\partial\Gamma(-t+1)}{\partial t} \Gamma(t+1)\right|_{t=0} \\ \\ &=& \left.\frac{\partial\Gamma(t+1)}{\partial t} \Gamma(-t+1)-\frac{\partial\Gamma(-t+1)}{\partial t} \Gamma(t+1)\right|_{t=0} \\ \\ &=& \Gamma^{\prime}(1)\Gamma(1)-\Gamma(1)^{\prime}\Gamma(1) \\ \\ &=& 0 \end{eqnarray} と導出できる。分散は \begin{eqnarray} V[X] &=& E[X^2]-(E[X])^2 \\ \\ &=& E[X^2] \\ \\ &=& \left.\frac{\partial^2}{\partial t^2} M(t)\right|_{t=0} \\ \\ &=& \left.\frac{\partial^2}{\partial t^2} \Gamma(t+1)\Gamma(-t+1)\right|_{t=0} \\ \\ &=& \left.\frac{\partial}{\partial t}\left(\frac{\partial\Gamma(t+1)}{\partial t} \Gamma(-t+1)-\frac{\partial\Gamma(-t+1)}{\partial t} \Gamma(t+1)\right)\right|_{t=0} \\ \\ &=& \left.\frac{\partial^2\Gamma(t+1)}{\partial^2 t} \Gamma(-t+1)+\frac{\partial\Gamma(t+1)}{\partial t} (-1)\frac{\partial\Gamma(-t+1)}{\partial t}-(-1)\frac{\partial^2\Gamma(-t+1)}{\partial^2 t} \Gamma(t+1)-\frac{\partial\Gamma(-t+1)}{\partial t} \frac{\partial\Gamma(t+1)}{\partial t}\right|_{t=0} \\ \\ &=& \left.\frac{\partial^2\Gamma(t+1)}{\partial^2 t} \Gamma(-t+1)-\frac{\partial\Gamma(t+1)}{\partial t} \frac{\partial\Gamma(-t+1)}{\partial t}+\frac{\partial^2\Gamma(-t+1)}{\partial^2 t} \Gamma(t+1)-\frac{\partial\Gamma(-t+1)}{\partial t} \frac{\partial\Gamma(t+1)}{\partial t}\right|_{t=0} \\ \\ &=& \Gamma^{\prime\prime}(1) \Gamma(1)-\Gamma^{\prime}(1)\Gamma^{\prime}(1)+\Gamma^{\prime\prime}(1)\Gamma(1)-\Gamma^{\prime}(1)\Gamma^{\prime}(1) \\ \\ &=& 2\Gamma^{\prime\prime}(1) \Gamma(1)-2\Gamma^{\prime 2}(1) \\ \\ &=& 2\Gamma^{2}(1)\left(\frac{\Gamma^{\prime\prime}(1)}{\Gamma(1)}-\frac{\Gamma^{\prime 2}(1)}{\Gamma^{2}(1)}\right) \\ \\ &=& 2\Gamma^{2}(1)\left.\frac{\partial}{\partial s}\frac{\Gamma^{\prime}(s)}{\Gamma(s)}\right|_{s=1} \\ \\ &=& 2\Gamma^{2}(1)\left.\frac{\partial}{\partial s}\psi(s)\right|_{s=1}&...&\text{p.43下：ディガンマ関数より} \\ \\ &=& 2\Gamma^{2}(1)\psi^{\prime}(1)& \\ \\ &=& 2\Gamma^{2}(1)\frac{\pi^2}{6}&...&\text{p.43下：ディガンマ関数の性質より} \\ \\ &=& 2(0!)^{2}\frac{\pi^2}{6}& \\ \\ &=& \frac{\pi^2}{3}&...&0!=1 \\ \\ \end{eqnarray} と導出できる。


24. p.44：式(2.2.13)のテイラー展開の導出
▼ 詳細を開く...2025/ 2/10作成
\begin{eqnarray} M(\boldsymbol{t};\boldsymbol{\mu},\Sigma) &=& \exp\left(\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\frac{1}{2}\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\right) \\ \\ &=& \displaystyle\sum_{n=0}^{\infty}\frac{1}{n!}\left(\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\frac{1}{2}\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\right)^n&...&e^x\text{のテイラー展開より} \\ \\ &=& \frac{1}{0!}\left(\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\frac{1}{2}\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\right)^0+\frac{1}{1!}\left(\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\frac{1}{2}\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\right)^1+\underbrace{\frac{1}{2!}\left(\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\frac{1}{2}\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\right)^2}_{(1)}+\ldots& \\ \\ &=& 1+\left(\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\frac{1}{2}\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\right)+\underbrace{\frac{1}{2!}\left(\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}+\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\right)}_{(1)}+\ldots& \\ \\ &=& 1+\left(\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\frac{1}{2}\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\right)+\underbrace{\frac{1}{2!}\left(\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\ldots\right)}_{(1)}+\ldots&...&t\text{が3次以上の項を省略した} \\ \\ &=& 1+\left(\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\frac{1}{2}\boldsymbol{t}^{\text{T}}\Sigma\boldsymbol{t}\right)+\frac{1}{2!}{\color{red}\boldsymbol{t}^{\text{T}}\boldsymbol{\mu}}\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\ldots&...&\text{(1)} \\ \\ &=& 1+\boldsymbol{\mu}^{\text{T}}\boldsymbol{t}+\frac{1}{2}\boldsymbol{t}^{\text{T}}(\Sigma+\boldsymbol{\mu}\boldsymbol{\mu}^{\text{T}})\boldsymbol{t}+\ldots& \\ \\ \end{eqnarray} と導出できる。

(1)では \begin{eqnarray} \boldsymbol{\mu}^{\text{T}}\boldsymbol{t} &=& \displaystyle\sum_{i}\mu_it_i \\ \\ &=& \displaystyle\sum_{i}t_i\mu_i \\ \\ &=& \boldsymbol{t}^{\text{T}}\boldsymbol{\mu} \end{eqnarray} と交換できることを用いた。


25. p.44：定理(2.2.3)の導出
▼ 詳細を開く...2025/ 2/10作成
\begin{eqnarray} E[\exp\{\boldsymbol{s}^{\text{T}}(A\boldsymbol{X}+\boldsymbol{b})\}] &=& E[\exp\{\boldsymbol{s}^{\text{T}}A\boldsymbol{X}\}]E[\exp\{\boldsymbol{s}^{\text{T}}\boldsymbol{b}\}]&...&b\text{は定数であるため} \\ \\ &=& E[\exp\{(A^{\text{T}}\boldsymbol{s})^{\text{T}}\boldsymbol{X}\}]\exp\{\boldsymbol{s}^{\text{T}}\boldsymbol{b}\} \\ \\ &=& \exp\left(\boldsymbol{\mu}^{\text{T}}A^{\text{T}}\boldsymbol{s}+\frac{1}{2}(A^{\text{T}}\boldsymbol{s})^{\boldsymbol{T}}\Sigma A^{\text{T}}\boldsymbol{s}\right)\exp\{\boldsymbol{s}^{\text{T}}\boldsymbol{b}\} \\ \\ &=& \exp\left((\underbrace{\color{red}A\boldsymbol{\mu}}_{(1)})^{\text{T}}\boldsymbol{s}+\frac{1}{2}(\underbrace{\color{red}\boldsymbol{s}^{\text{T}}A}_{(1)})\Sigma A^{\text{T}}\boldsymbol{s}\right)\exp\{\underbrace{\color{red}\boldsymbol{b}^{\text{T}}\boldsymbol{s}}_{(2)}\} \\ \\ &=& \exp\left((A\boldsymbol{\mu}+\boldsymbol{b})^{\text{T}}\boldsymbol{s}+\frac{1}{2}\boldsymbol{s}^{\text{T}}(A\Sigma A^{\text{T}})\boldsymbol{s}\right) \\ \\ \end{eqnarray} と導出できる。

(1)では \begin{eqnarray} (\boldsymbol{A}\boldsymbol{B})^{\text{T}}=\boldsymbol{B}^{\text{T}}\boldsymbol{A}^{\text{T}} \end{eqnarray} になることを用いた。
(2)では \begin{eqnarray} \boldsymbol{s}^{\text{T}}\boldsymbol{b} &=& \displaystyle\sum_is_ib_i \\ \\ &=& \displaystyle\sum_ib_is_i \\ \\ &=& \boldsymbol{b}^{\text{T}}\boldsymbol{s} \end{eqnarray} を用いた。


26. p.46：多変量正規分布の条件付分布が多変量正規分布になることの導出
▼ 詳細を開く...2025/ 2/10作成
式(1.2.10)の条件付確率密度関数を用いる。 \begin{eqnarray} f(\boldsymbol{x}_1|\boldsymbol{x}_2) &=& \frac{f(\boldsymbol{x};\boldsymbol{\mu},\Sigma)}{f(\boldsymbol{x}_2;\boldsymbol{\mu}_2,\Sigma_{22})} \\ \\ &=& \underbrace{f(\boldsymbol{x};\boldsymbol{\mu},\Sigma)}_{(1)}\left\{\underbrace{f(\boldsymbol{x}_2;\boldsymbol{\mu}_2,\Sigma_{22})}_{(2)}\right\}^{-1} \\ \\ &=& \underbrace{\frac{1}{(2\pi)^{p/2}\{\text{det}\Sigma\}^{1/2}}\exp\left\{-\frac{1}{2}(\boldsymbol{x}-\boldsymbol{\mu})^{\text{T}}\Sigma^{-1}(\boldsymbol{x}-\boldsymbol{\mu})\right\}}_{(1)\text{p.45中段より}}\left\{\underbrace{\frac{1}{(2\pi)^{(p-q)/2}\{\text{det}\Sigma_{22}\}^{1/2}}\exp\left\{-\frac{1}{2}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)^{\text{T}}\Sigma^{-1}_{22}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\right\}}_{(2)\text{p.45中段と定理(2.2.4)より}}\right\}^{-1} \\ \\ &=& \frac{(2\pi)^{(p-q)/2}\{\text{det}\Sigma_{22}\}^{1/2}}{(2\pi)^{p/2}\{\text{det}\Sigma\}^{1/2}}\exp\left\{-\frac{1}{2}(\boldsymbol{x}-\boldsymbol{\mu})^{\text{T}}\Sigma^{-1}(\boldsymbol{x}-\boldsymbol{\mu})+\frac{1}{2}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)^{\text{T}}\Sigma^{-1}_{22}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\right\} \\ \\ &=& (2\pi)^{-q/2}\underbrace{\frac{\{\text{det}\Sigma_{22}\}^{1/2}}{\{\text{det}\Sigma\}^{1/2}}}_{(3)}\exp\left\{-\frac{1}{2}\left[\underbrace{(\boldsymbol{x}-\boldsymbol{\mu})^{\text{T}}\Sigma^{-1}(\boldsymbol{x}-\boldsymbol{\mu})-(\boldsymbol{x}_2-\boldsymbol{\mu}_2)^{\text{T}}\Sigma^{-1}_{22}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)}_{(4)}\right]\right\} \\ \\ \end{eqnarray} と式変形できる。各部分ごとに計算する。p.45上より\(\Sigma\)は正定値対称行列であることから、参考より正則であるから、行列式は\(0\)にならない。\(\Sigma_{22}\)が正則行列であるとするとブロック行列の行列式の性質より \begin{eqnarray} (3) &=& \frac{\{\text{det}\Sigma_{22}\}^{1/2}}{\{\text{det}\Sigma\}^{1/2}} \\ \\ &=& \frac{\{\text{det}\Sigma_{22}\}^{1/2}}{\{\text{det}\Sigma_{22}\text{det}(\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21})\}^{1/2}} \\ \\ &=& \frac{1}{\{\text{det}(\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21})\}^{1/2}} \\ \\ \end{eqnarray} と変形できる。\(\Sigma\)の行列成分(ブロック)はp.45の中段のものを用いた。
(4)について、統計学のための数学入門30講、回帰分析、高校数学の美しい物語の当該記事など参考に、 \begin{eqnarray} \Sigma^{-1} &=& \left( \begin{array}{cccc} \Sigma_{11}&\Sigma_{12} \\ \Sigma_{21}&\Sigma_{22} \end{array} \right)^{-1} \\ \\ &=& \left( \begin{array}{cccc} \Sigma_{11}&\Sigma_{12} \\ \Sigma_{12}^{T}&\Sigma_{22} \end{array} \right)^{-1}&...&\text{p.45上：対称行列であるから} \\ \\ &=& \left( \begin{array}{cccc} E&-E\Sigma_{12}\Sigma_{22}^{-1} \\ -\Sigma_{22}^{-1}\Sigma_{12}^{\text{T}}E&\Sigma_{22}^{-1}+\Sigma_{22}^{-1}\Sigma_{12}^{\text{T}}E\Sigma_{12}\Sigma_{22}^{-1} \end{array} \right)&...&E=(\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-11}\Sigma_{12}^{T}) \\ \\ \end{eqnarray} が得られる。これを(4)に適用すると \begin{eqnarray} (4) &=& (\boldsymbol{x}-\boldsymbol{\mu})^{\text{T}}\Sigma^{-1}(\boldsymbol{x}-\boldsymbol{\mu})-(\boldsymbol{x}_2-\boldsymbol{\mu}_2)^{\text{T}}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2) \\ \\ &=& ((\boldsymbol{x}_1-\boldsymbol{\mu}_1)^{\text{T}},(\boldsymbol{x}_2-\boldsymbol{\mu}_2)^{\text{T}}) \left( \begin{array}{cccc} E&-E\Sigma_{12}\Sigma_{22}^{-1} \\ -\Sigma_{22}^{-1}\Sigma_{12}^{\text{T}}E&\Sigma_{22}^{-1}+\Sigma_{22}^{-1}\Sigma_{12}^{\text{T}}E\Sigma_{12}\Sigma_{22}^{-1} \end{array} \right) \left( \begin{array}{cccc} \boldsymbol{x}_1-\boldsymbol{\mu}_1 \\ \boldsymbol{x}_2-\boldsymbol{\mu}_2 \end{array} \right) - (\boldsymbol{x}_2-\boldsymbol{\mu}_2)^{\text{T}}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2) \\ \\ &=& (\boldsymbol{x}_1-\boldsymbol{\mu}_1)^{\text{T}}E(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\boldsymbol{x}_1-\boldsymbol{\mu}_1)^{\text{T}}E\{\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\}-\{\underbrace{(\boldsymbol{x}_2-\boldsymbol{\mu}_2)^{\text{T}}\Sigma_{22}^{-1}\Sigma_{12}^{\text{-1}}}_{(5)}\}E(\boldsymbol{x}_1-\boldsymbol{\mu}_1)+\{\underbrace{(\boldsymbol{x}_2-\boldsymbol{\mu}_2)^{\text{T}}\Sigma_{22}^{-1}\Sigma_{12}^{\text{-1}}}_{(5)}\}^{\text{T}}E\{\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\}+(\boldsymbol{x}_2-\boldsymbol{\mu}_2)^{\text{T}}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)-(\boldsymbol{x}_2-\boldsymbol{\mu}_2)^{\text{T}}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2) \\ \\ &=& (\boldsymbol{x}_1-\boldsymbol{\mu}_1)^{\text{T}}E(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\boldsymbol{x}_1-\boldsymbol{\mu}_1)^{\text{T}}E\{\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\}-\{\underbrace{\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)}_{(5)}\}^{\text{T}}E(\boldsymbol{x}_1-\boldsymbol{\mu}_1)+\{\underbrace{\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)}_{(5)}\}^{\text{T}}E\{\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\}+0 \\ \\ &=& (\boldsymbol{x}_1-\boldsymbol{\mu}_1)^{\text{T}}E(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\boldsymbol{x}_1-\boldsymbol{\mu}_1)^{\text{T}}E\{\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\}-\{\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\}^{\text{T}}E(\boldsymbol{x}_1-\boldsymbol{\mu}_1)+\{\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\}^{\text{T}}E\{\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\} \\ \\ &=& \{(\boldsymbol{x}_1-\boldsymbol{\mu}_1)^{\text{T}}-(\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2))^{\text{T}}\}E\{(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2))\} \\ \\ &=& \{(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2))\}^{\text{T}}E\{(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2))\} \\ \\ \end{eqnarray} が得られる。

(5)では\(((AB)C)^{\text{T}}=C^{\text{T}}(AB)^{\text{T}}=C^{\text{T}}B^{\text{T}}A^{\text{T}}\)になること、対称行列の逆行列も対称行列になることを用いて\(\Sigma_{22}^{-1 T}=\Sigma_{22}^{-1}\)となることを用いた。

まとめると \begin{eqnarray} f(\boldsymbol{x}_1|\boldsymbol{x}_2) &=& (2\pi)^{-q/2}\underbrace{\frac{1}{\{\text{det}(\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21})\}^{1/2}}}_{(3)}\exp\left\{-\frac{1}{2}\left[\underbrace{\{(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2))\}^{\text{T}}E\{(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2))\}}_{(4)}\right]\right\} \\ \\ &=& \frac{1}{(2\pi)^{-q/2}\{\text{det}(\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21})\}^{1/2}}\exp\left\{-\frac{1}{2}\left[\{(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2))\}^{\text{T}}(\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\underbrace{\Sigma_{12}^{\text{T}}}_{(6)})^{-1}\{(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2))\}\right]\right\} \\ \\ &=& \frac{1}{(2\pi)^{-q/2}\{\text{det}{\color{red}(\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21})}\}^{1/2}}\exp\left\{-\frac{1}{2}\left[\{(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2))\}^{\text{T}}{\color{red}(\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\underbrace{\Sigma_{21}}_{(6)\text{対称行列}})^{-1} }\{(\boldsymbol{x}_1-\boldsymbol{\mu}_1)-(\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2))\}\right]\right\} \\ \\ \end{eqnarray} となるため、この式は平均\(\boldsymbol{\mu_1}-\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_2)\)、分散\(\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}=\Sigma_{11|2}\)の多変量正規分布になっていることがわかる。


27. p.46：\(A\Sigma A^{T}\)の計算
▼ 詳細を開く...2025/ 2/10作成
\begin{eqnarray} A\Sigma A^{T} &=& \left[ \begin{array}{cccc} I_q&-\Sigma_{12}\Sigma_{22}^{-1} \\ O_{p-q,q}&I_{p-q} \end{array} \right] \left( \begin{array}{cccc} \Sigma_{11}&\Sigma_{12} \\ \Sigma_{21}&\Sigma_{22} \end{array} \right) \left[ \begin{array}{cccc} I_q&-\Sigma_{12}\Sigma_{22}^{-1} \\ O_{p-q,q}&I_{p-q} \end{array} \right]^{\text{T}} \\ \\ &=& \left[ \begin{array}{cccc} I_q\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}&I_q\Sigma_{12}-\Sigma_{12}(\Sigma_{22}^{-1}\Sigma_{22}) \\ O_{p-q,q}\Sigma_{11}+I_{p-q}\Sigma_{21}&O_{p-q,q}\Sigma_{12}+I_{p-q}\Sigma_{22} \end{array} \right] \left[ \begin{array}{cccc} I_q&O_{p-q,q}^{\text{T}} \\ -(\Sigma_{12}\Sigma_{22}^{-1})^{\text{T}}&I_{p-q} \end{array} \right] \\ \\ &=& \left[ \begin{array}{cccc} \Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}&\Sigma_{12}-\Sigma_{12} \\ \Sigma_{21}&\Sigma_{22} \end{array} \right] \left[ \begin{array}{cccc} I_q&O_{q,p-q} \\ -\Sigma_{22}^{-1 \text{T}}\Sigma_{12}^{\text{T}}&I_{p-q} \end{array} \right] \\ \\ &=& \left[ \begin{array}{cccc} \Sigma_{11|2}&O_{q,p-q} \\ \Sigma_{21}&\Sigma_{22} \end{array} \right] \left[ \begin{array}{cccc} I_q&O_{q,p-q} \\ -\Sigma_{22}^{-1}\Sigma_{21}&I_{p-q} \end{array} \right]&...&(1) \\ \\ &=& \left[ \begin{array}{cccc} \Sigma_{11|2}I_q-O_{q,p-q}\Sigma_{22}^{-1}\Sigma_{21}&\Sigma_{11|2}O_{q,p-q}+O_{q,p-q}I_{p-q} \\ \Sigma_{21}I_q-\Sigma_{22}\Sigma_{22}^{-1}\Sigma_{21}&\Sigma_{21}O_{q,p-q}+\Sigma_{22} I_{p-q} \end{array} \right]\\ \\ &=& \left[ \begin{array}{cccc} \Sigma_{11|2}&O_{q,p-q} \\ \Sigma_{21}-\Sigma_{21}&\Sigma_{22} \end{array} \right]\\ \\ &=& \left[ \begin{array}{cccc} \Sigma_{11|2}&O_{q,p-q} \\ O_{p-q,q}&\Sigma_{22} \end{array} \right]\\ \\ \end{eqnarray} と導出できる。

(1)では、対称行列であることを利用し\(\Sigma_{22}^{-1 \text{T}}=\Sigma_{22}^{-1}, \Sigma_{12}^{\text{T}}=\Sigma_{21}\)とした。