WIIS

連続型の確率分布

連続型確率変数のモーメント母関数(積率母関数)

目次

Twitter
Mailで保存

連続型確率変数のモーメント母関数

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)が与えられているものとします。加えて、\(X\)の確率分布が確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)によって記述されているものとします。つまり、確率変数\(X\)の値が区間\(I\subset \mathbb{R} \)に属する確率は、\begin{equation*}P\left( X\in I\right) =\int_{I}f_{X}\left( x\right) dx
\end{equation*}であるということです。

実数\(t\in \mathbb{R} \)を任意に選んだ上で、変数\(x\)に関する関数\(e^{tx}:\mathbb{R} \rightarrow \mathbb{R} \)を定義します。この関数\(e^{tx}\)の定義域は\(\mathbb{R} \)であるため、これと先の確率変数\(X\)を用いることにより、それぞれの\(\omega \in \Omega \)に対して、\begin{equation*}e^{tX\left( \omega \right) }\in \mathbb{R} \end{equation*}を定める新たな確率関数\begin{equation*}
e^{tX}:\Omega \rightarrow \mathbb{R} \end{equation*}が定義可能です。つまり、\(e^{tX}\)は\(X\)と\(e^{tx}\)の合成関数として定義される確率変数です。この確率変数の期待値は、\begin{equation*}E\left( e^{tX}\right) =\int_{-\infty }^{+\infty }e^{tx}f_{X}\left( x\right)
dx\quad \because \text{LOTUS}
\end{equation*}であることに注意してください。\(t\)の値が変われば確率変数\(e^{tX}\)の形状も変化し、それに応じて期待値\(E\left(e^{tX}\right) \)もまた変化します。また、そもそも、確率変数\(e^{tX}\)の期待値は有限な実数として定まるとは限りません。ただ、\(t\)がとり得る値の範囲を点\(0\)を中心とする近傍\(N_{\varepsilon}\left( 0\right) =\left( -\varepsilon ,\varepsilon \right) \)に制限したとき、十分小さい半径\(\varepsilon >0\)のもとでは、この近傍に属する任意の値\(t\in N_{\varepsilon }\left(0\right) \)について期待値\(E\left(e^{tX}\right) \)が有限な値として定まることが保証されるのであれば、それぞれの\(t\in N_{\varepsilon }\left(0\right) \)に対して、\begin{equation*}M_{X}\left( t\right) =E\left( e^{tX}\right)
\end{equation*}を定める関数\begin{equation*}
M_{X}:\mathbb{R} \supset N_{\varepsilon }\left( 0\right) \rightarrow \mathbb{R} \end{equation*}が定義可能です。このような関数\(M_{X}\)が存在する場合、これを確率変数\(X\)のモーメント母関数(moment generating function of \(X\))や積率母関数などと呼びます。

例(モーメント母関数)
連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)の値域が、\begin{equation*}X\left( \Omega \right) =\left[ 0,1\right] \end{equation*}であるとともに、確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)はそれぞれの\(x\in \mathbb{R} \)に対して、\begin{equation*}f_{X}\left( x\right) =\left\{
\begin{array}{cl}
1 & \left( if\ x\in X\left( \Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めるものとします。\(t\in \mathbb{R} \)を任意に選んだとき、確率変数\(e^{tX}:\Omega \rightarrow \mathbb{R} \)の期待値は、\begin{eqnarray*}E\left( e^{tX}\right) &=&\int_{-\infty }^{+\infty }e^{tx}f_{X}\left(
x\right) dx\quad \because \text{LOTUS} \\
&=&\int_{0}^{1}e^{tx}dx \\
&=&\left[ \frac{e^{tx}}{t}\right] _{0}^{1} \\
&=&\frac{e^{t}}{t}-\frac{e^{0}}{t} \\
&=&\frac{e^{t}-1}{t}
\end{eqnarray*}です。この値は\(t=0\)において定義されません。\(t=0\)については、\begin{eqnarray*}E\left( e^{0X}\right) &=&E\left( e^{0}\right) \\
&=&E\left( 1\right) \\
&=&\int_{0}^{1}\left( 1\cdot 1\right) dx \\
&=&1
\end{eqnarray*}となります。したがって、モーメント母関数\begin{equation*}
M_{X}:\mathbb{R} \rightarrow \mathbb{R} \end{equation*}が存在して、これはそれぞれの\(t\in \mathbb{R} \)に対して、\begin{equation*}M_{X}\left( t\right) =\left\{
\begin{array}{cc}
\frac{e^{t}-1}{t} & \left( if\ t\not=0\right) \\
1 & \left( if\ t=0\right)
\end{array}\right.
\end{equation*}を定めます。

 

モーメント母関数とモーメントの関係

モーメント母関数はその名の通りモーメントと深い関係があります。モーメントについて簡単に復習した上で、モーメント母関数との関係を以下で解説します。

連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)の確率分布が確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)として記述されているものとします。自然数\(m\in \mathbb{N} \)を任意に選んだとき、それぞれの\(\omega \in \Omega \)に対して、\begin{equation*}X^{m}\left( \omega \right) =\left[ X\left( \omega \right) \right] ^{m}
\end{equation*}を定める新たな確率変数\(X^{m}:\Omega \rightarrow \mathbb{R} \)が定義可能です。この確率変数\(X^{m}\)の期待値は、\begin{equation*}E\left( X^{m}\right) =\int_{-\infty }^{+\infty }x^{m}f_{X}\left( x\right)
dx\quad \because \text{LOTUS}
\end{equation*}となりますが、これを確率変数\(X\)の\(m\)次のモーメントと呼びます。

確率変数\(X\)のモーメント母関数\(M_{X}:\mathbb{R} \supset N_{\varepsilon }\left( 0\right) \rightarrow \mathbb{R} \)が存在する場合、任意の自然数\(m\)について、確率変数\(X\)の\(m\)次のモーメント\(E\left( X^{m}\right) \)が有限な実数として定まることが保証されるとともに、それはモーメント母関数\(M_{X}\)の点\(0\)における\(m\)次の微分係数と一致することが保証されます。つまり、以下の関係\begin{equation*}E\left( X^{m}\right) =\left. \frac{d^{m}M_{X}\left( t\right) }{dt^{m}}\right\vert _{t=0}
\end{equation*}が成り立つということです。

命題(モーメント母関数とモーメントの関係)
連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)のモーメント母関数\(M_{X}:\mathbb{R} \supset N_{\varepsilon }\left( 0\right) \rightarrow \mathbb{R} \)が存在する場合、任意の自然数\(m\in \mathbb{N} \)について、確率変数\(X\)の\(m\)次のモーメント\(E\left(X^{m}\right) \)が有限な実数として定まるとともに、以下の関係\begin{equation*}E\left( X^{m}\right) =\left. \frac{d^{m}M_{X}\left( t\right) }{dt^{m}}\right\vert _{t=0}
\end{equation*}が成り立つ。

解答を見る

プレミアム会員専用コンテンツです
ログイン】【会員登録

例(モーメント母関数とモーメントの関係)
連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)の値域が、\begin{equation*}X\left( \Omega \right) =\left[ 0,1\right] \end{equation*}であるとともに、確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)はそれぞれの\(x\in \mathbb{R} \)に対して、\begin{equation*}f_{X}\left( x\right) =\left\{
\begin{array}{cl}
1 & \left( if\ x\in X\left( \Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めるものとします。先に示したように、モーメント母関数\(M_{X}:\mathbb{R} \rightarrow \mathbb{R} \)が存在して、これはそれぞれの\(t\in \mathbb{R} \)に対して、\begin{equation*}M_{X}\left( t\right) =\left\{
\begin{array}{cc}
\frac{e^{t}-1}{t} & \left( if\ t\not=0\right) \\
1 & \left( if\ t=0\right)
\end{array}\right.
\end{equation*}を定めます。したがって、先の命題より、自然数\(m\in \mathbb{N} \)を任意に選んだとき、\(X\)の\(m\)次のモーメント\(E\left( X^{m}\right) \)が有限な実数として定まるとともに、以下の関係\begin{equation}E\left( X^{m}\right) =\left. \frac{d^{m}M_{X}\left( t\right) }{dt^{m}}\right\vert _{t=0} \quad \cdots (1)
\end{equation}が成立します。自然数\(m\in \mathbb{N} \)を任意に選んだ上で、モーメント母関数\(M_{X}\left( t\right) \)を点\(0\)において\(m\)階微分します。自然指数関数\(e^{t}\)はマクローリン展開可能であり、点\(0\)とは異なる点\(t\in \mathbb{R} \backslash \left\{ 0\right\} \)を任意に選んだとき、\begin{equation*}e^{t}=1+t+\frac{1}{2}t^{2}+\frac{1}{3!}t^{3}+\cdots
\end{equation*}が成り立ちます。したがって、\begin{eqnarray*}
\frac{e^{t}-1}{t} &=&\frac{1+t+\frac{1}{2}t^{2}+\frac{1}{3!}t^{3}+\cdots -1}{t} \\
&=&1+\frac{1}{2}t+\frac{1}{3!}t^{2}+\frac{1}{4!}t^{3}+\cdots
\end{eqnarray*}を得ます。すると、\begin{eqnarray*}
\frac{d}{dt}\left( \frac{e^{t}-1}{t}\right) &=&\frac{1}{2}+\frac{2}{3!}t+\frac{3}{4!}t^{2}+\frac{4}{5!}t^{3}+\cdots \\
\frac{d^{2}}{dt^{2}}\left( \frac{e^{t}-1}{t}\right) &=&\frac{2\cdot 1}{3!}+\frac{3\cdot 2}{4!}t+\frac{4\cdot 3}{5!}t^{2}+\frac{5\cdot 4}{6!}t^{3}+\cdots \\
\frac{d^{3}}{dt^{3}}\left( \frac{e^{t}-1}{t}\right) &=&\frac{3\cdot 2\cdot 1}{4!}+\frac{4\cdot 3\cdot 2}{5!}t+\frac{5\cdot 4\cdot 3}{6!}t^{2}+\frac{6\cdot 5\cdot 4}{7!}t^{3}+\cdots
\end{eqnarray*}などとなり、一般的には、\begin{equation*}
\frac{d^{m}}{dt^{m}}\left( \frac{e^{t}-1}{t}\right) =\frac{m!}{\left(
m+1\right) !}+\frac{\left( m+1\right) m\times \cdots \times 2}{\left(
m+2\right) !}t+\cdots
\end{equation*}となるため、\begin{eqnarray*}
\left. \frac{d^{m}}{dt^{m}}\left( \frac{e^{t}-1}{t}\right) \right\vert
_{t=0} &=&\frac{m!}{\left( m+1\right) !} \\
&=&\frac{1}{m+1}
\end{eqnarray*}を得ます。これと\(\left(1\right) \)より、\begin{equation*}E\left( X^{m}\right) =\frac{1}{m+1}
\end{equation*}を得ます。他方で、定義にもとづいてモーメントを求めると、\begin{eqnarray*}
E\left( X^{m}\right) &=&\int_{-\infty }^{+\infty }x^{m}f_{X}\left( x\right)
dx\quad \because \text{LOTUS} \\
&=&\int_{0}^{1}\left( x^{m}\cdot 1\right) dx\quad \because f_{X}\text{の定義} \\
&=&\int_{0}^{1}x^{m}dx \\
&=&\left[ \frac{x^{m+1}}{m+1}\right] _{0}^{1} \\
&=&\frac{1^{m+1}}{m+1}-\frac{0^{m+1}}{m+1} \\
&=&\frac{1}{m+1}
\end{eqnarray*}となりますが、これは先の結果と整合的です。

例(モーメント母関数と期待値の関係)
連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)のモーメント母関数\(M_{X}:\mathbb{R} \rightarrow \mathbb{R} \)が存在するものとします。確率変数\(X\)の期待値とモーメントの間には以下の関係\begin{equation*}E\left( X\right) =E\left( X^{1}\right)
\end{equation*}が成り立ちます。つまり、\(X\)の原点まわりの\(1\)次のモーメントは\(X\)の期待値と一致します。さらに、先の命題より、\begin{equation*}E\left( X^{1}\right) =\left. \frac{dM_{X}\left( t\right) }{dt}\right\vert
_{t=0}
\end{equation*}が成り立つため、\begin{equation*}
E\left( X\right) =\left. \frac{dM_{X}\left( t\right) }{dt}\right\vert _{t=0}
\end{equation*}を得ます。モーメント母関数から期待値を導出できるということです。

例(モーメント母関数と分散の関係)
離散型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)のモーメント母関数\(M_{X}:\mathbb{R} \rightarrow \mathbb{R} \)が存在するものとします。確率変数\(X\)の分散と期待値の間には以下の関係\begin{equation*}\mathrm{Var}\left( X\right) =E\left( X^{2}\right) -\left[ E\left( X\right) \right] ^{2}
\end{equation*}が成り立ちます。また、確率変数\(X\)の期待値とモーメントの間には以下の関係\begin{equation*}E\left( X\right) =E\left( X^{1}\right)
\end{equation*}が成り立ちます。加えて、先の命題より、\begin{eqnarray*}
E\left( X^{1}\right) &=&\left. \frac{d^{2}M_{X}\left( t\right) }{dt}\right\vert _{t=0} \\
E\left( X^{2}\right) &=&\left. \frac{dM_{X}\left( t\right) }{dt^{2}}\right\vert _{t=0}
\end{eqnarray*}を得るため、\begin{equation*}
\mathrm{Var}\left( X\right) =\left. \frac{dM_{X}\left( t\right) }{dt^{2}}\right\vert _{t=0}-\left[ \left. \frac{d^{2}M_{X}\left( t\right) }{dt}\right\vert _{t=0}\right] ^{2}
\end{equation*}を得ます。モーメント母関数から分散を導出できるということです。

 

モーメント母関数による確率分布の特徴づけ

確率変数の確率分布はモーメント母関数によって特徴づけられます。つまり、2つの確率変数が同一のモーメント母関数を持つことと、それらの確率変数が同一の確率分布にしたがうことは必要十分です。順番に解説します。

2つの連続型の確率変数\(X,Y:\Omega \rightarrow \mathbb{R} \)の確率分布が確率密度関数\(f_{X},f_{Y}:\mathbb{R} \rightarrow \mathbb{R} \)としてそれぞれ表現されているものとします。加えて、これらの確率変数\(X,Y\)がともにモーメント母関数\(M_{X},M_{Y}:\mathbb{R} \supset N_{\varepsilon }\left( 0\right) \rightarrow \mathbb{R} \)を持つものとします。このとき、\(f_{X}\)と\(f_{Y}\)が一致することと\(M_{X}\)と\(M_{Y}\)が一致することは必要十分になります。

命題(モーメント母関数による確率分布の特徴づけ)
連続型の確率変数\(X,Y:\Omega\rightarrow \mathbb{R} \)の確率分布が確率密度関数\(f_{X},f_{Y}:\mathbb{R} \rightarrow \mathbb{R} \)としてそれぞれ表現されているものとする。これらの確率関数\(X,Y\)のモーメント母関数\(M_{X},M_{Y}:\mathbb{R} \supset N_{\varepsilon }\left( 0\right) \rightarrow \mathbb{R} \)がともに存在する場合、以下の2つの命題\begin{eqnarray*}&&\left( a\right) \ \forall x\in \mathbb{R} :f_{X}\left( x\right) =f_{Y}\left( x\right) \\
&&\left( b\right) \ \forall t\in N_{\varepsilon }\left( 0\right)
:M_{X}\left( t\right) =M_{Y}\left( t\right)
\end{eqnarray*}は必要十分である。

連続型確率変数の確率分布は分布関数によって表現することもできるため、上の命題より以下を得ます。

命題(モーメント母関数による確率分布の特徴づけ)
連続型の確率変数\(X,Y:\Omega\rightarrow \mathbb{R} \)の確率分布が分布関数\(F_{X},F_{Y}:\mathbb{R} \rightarrow \mathbb{R} \)としてそれぞれ表現されているものとする。これらの確率関数\(X,Y\)のモーメント母関数\(M_{X},M_{Y}:\mathbb{R} \supset N_{\varepsilon }\left( 0\right) \rightarrow \mathbb{R} \)がともに存在する場合、以下の2つの命題\begin{eqnarray*}&&\left( a\right) \ \forall x\in \mathbb{R} :F_{X}\left( x\right) =F_{Y}\left( x\right) \\
&&\left( b\right) \ \forall t\in N_{\varepsilon }\left( 0\right)
:M_{X}\left( t\right) =M_{Y}\left( t\right)
\end{eqnarray*}は必要十分である。

多くの場合、2つの確率変数の確率分布が一致することを示すことよりも、それらのモーメント母関数が一致することを示すことの方が容易です。上の命題は、2つの確率変数が同一の確率分布にしたがうことを示す代わりに、それらのモーメント母関数が一致することを示してもよいことを保証します。

 

演習問題

問題(モーメント母関数)
連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)の値域が、\begin{equation*}a<b
\end{equation*}を満たす実数\(a,b\in \mathbb{R} \)を用いて、\begin{equation*}X\left( \Omega \right) =\left[ a,b\right] \end{equation*}と表現されるとともに、確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)はそれぞれの\(x\in \mathbb{R} \)に対して、\begin{equation*}f_{X}\left( x\right) =\left\{
\begin{array}{cl}
\frac{1}{b-a} & \left( if\ x\in X\left( \Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めるものとします。モーメント母関数\(M_{X}\)は存在するでしょうか。存在する場合には具体的に求めてください。
解答を見る

プレミアム会員専用コンテンツです
ログイン】【会員登録

問題(モーメント母関数)
連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)の値域が、\begin{equation*}X\left( \Omega \right) =[0,+\infty )
\end{equation*}であるとともに、確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)がそれぞれの\(x\in \mathbb{R} \)に対して定める値は、\begin{equation*}\lambda >0
\end{equation*}を満たす定数\(\lambda \in \mathbb{R} \)を用いて、\begin{equation*}f_{X}\left( x\right) =\left\{
\begin{array}{cl}
\lambda e^{-\lambda x} & \left( if\ x\in X\left( \Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}と表されるものとします。モーメント母関数\(M_{X}\)は存在するでしょうか。存在する場合には具体的に求めてください。
解答を見る

プレミアム会員専用コンテンツです
ログイン】【会員登録

Twitter
Mailで保存

質問とコメント

プレミアム会員専用コンテンツです
ログイン】【会員登録

関連知識