【統計検定1級対策】一様分布の積率母関数・期待値・分散の導出
目次
前書き
範囲内の値が同じ確率で出現する分布で$U(a,b)$と書くことが多いです。 出る目が同様に確からしいサイコロの出る目が従う確率変数は離散型一様分布に従います。 簡単なシミュレーションなどで使われるお馴染みの「一様分布」について紹介します。
初めに結論
離散 | 連続 | |
---|---|---|
台 | $x\in set(1,2,\ldots,n) $1 | $a\le x \le b\quad a,b\in R, a < b$ |
確率関数 | $P(X=x)=\frac{1}{n}$ | $f(x)=\frac{1}{b-a}$ |
積率母関数 | $\frac{1}{n}\frac{e^t(1-e^{nt})}{1-e^t}$ | $\frac{e^{bt}-e^{at}}{t(b-a)}$ |
平均 | $\frac{n+1}{2}$ | $\frac{a+b}{2}$ |
分散 | $\frac{n^2-1}{12}$ | $\frac{(a-b)^2}{12}$ |
導出
積率母関数
- 離散
高校数学でやる等比数列の総和を適用するだけで完了です。
$$ \begin{eqnarray} M_X(t)=\sum_{x=1}^{\infty}\frac{1}{n}e^{tx}=\frac{1}{n}\frac{e^t(1-e^{nt})}{1-e^t} \end{eqnarray} $$
注意点は台が$x\in set(1,2,\ldots,n)$1なので、それ以外の範囲の確率は$0$となるため総和をとる範囲は有限となり極限操作が必要ないという点ですね。
- 連続
こちらも普通に高校数学でやるレベルの指数関数の積分を行うだけです。
$$
\begin{eqnarray}
M_X(t)&=&\int_{-\infty}^{\infty}e^{tx}\frac{1}{b-a}dx=\frac{1}{b-a}\left[\frac1te^{tx}\right]_a^b\\\
&=&\frac{e^{bt}-e^{at}}{t(b-a)}
\end{eqnarray}
$$
同様の注意点で、台が$x\in[a,b]$なのでそれ以外の範囲の確率は$0$となるため、積分範囲は$[a,b]$となりますので極限操作が必要ないという点です。
平均
普通ならば先に求めた$M_X(t)$を$t$で微分して$t=0$としますが、一様分布の場合この方法がめんどくさいw 高校数学でやる商の微分法ですが長くなるんですよね、しかもL’Hospitalの定理を利用するなど複雑です。 一様分布の場合は定義通りに求めてあげるのが楽にできます。なのでそれを採用しましょう。
- 離散
等差数列の総和を求めましょう。 $$ \begin{eqnarray} E(X)=\sum_{x=1}^{\infty}x\frac{1}{n}=\sum_{x=1}{n}\frac1n\frac{(1+n)n}{2}=\frac{1+n}{2} \end{eqnarray} $$
- 連続
$$
\begin{eqnarray}
E(X)&=&\int_{-\infty}^{\infty}x\frac{1}{b-a}dx=\frac1{b-a}\left[\frac{x^2}{2}\right]_a^b\\\
&=&\frac{b^2-a^2}{2(b-a)}=\frac{a+b}{2}
\end{eqnarray}
$$
分散
分散は$E(X^2)-(E(X))^2$で求めることができました。 なので二次のモーメントを先に求めておきます。 一様分布の場合は素直に定義通り計算するのがよいです。
- 離散 $$ \begin{eqnarray} E(X^2)=\sum_{x=1}^{\infty}\frac1nx^2=\frac{n(n+1)(2n+1)}{6n}=\frac{(n+1)(2n+1)}{6} \end{eqnarray} $$
なので分散は、 $$ \begin{eqnarray} V(X)=\frac{(n+1)(2n+1)}{6}-\left(\frac{1+n}{2}\right)^2=\frac{n^2-1}{12} \end{eqnarray} $$
- 連続
$$ \begin{eqnarray} E(X^2)=\int_{-\infty}^{\infty}\frac{1}{b-a}x^2dx=\frac{1}{b-a}\left[\frac{x^3}{3}\right]_b^a=\frac{(b^3-a^3)}{3(b-a)}=\frac{b^2+ab+a^2}{3} \end{eqnarray} $$
なので分散は、 $$ \begin{eqnarray} V(X)=\frac{a^2+ab+b^2}{3}-\left(\frac{a+b}{2}\right)^2=\frac{(a-b)^2}{12} \end{eqnarray} $$
まとめ
一様分布を丸裸にできましたね。
ニューラルネットワークの初期値や、ベイズの事前分布などでよく使用される一様分布、定義通り計算してあげるだけですが、意外とこんなに詳しくかんがえてみたことはなかったんじゃないでしょうか?(私はありませんでしたw)
ほとんど高校数学のレベルでできてしまうので是非ご自身でも導出してみてください。
数式を打ち込みながら記事書くのは意外と大変ですね、、、でも頑張りますので次エントリーも目を通していただけたらと思います!
それでは明日からまた一週間仕事・学校頑張っていきましょう(涙
参考文献
- 日本統計学会編, “日本統計学会公式認定 統計検定1級対応 統計学”, 第6刷, 2013, 東京図書, ISBN 978-4-489-02150-3.
- 藤澤洋徳, “確率と統計”, 第9刷, 2006, 朝倉書店, ISBN 978-4-254-11763-9.
- 小寺平治, “明解演習 数理統計”, 初版30刷, 1986, 共立出版, ISBN 978-4-320-01381-0.
-
MathJax+hugoでこのblogを書いています、なぜか
\{\}
が認識されず波括弧が打てなかったのでset()で集合を表すことにしました。 ↩︎