離散型同時確率変数の期待値

離散型同時確率変数の期待値

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて離散型の同時確率変数\(\left( X,Y\right) :\Omega\rightarrow \mathbb{R} ^{2}\)が与えられているものとします。加えて、同時確率変数\(\left( X,Y\right) \)の同時確率分布が同時確率質量関数\(f_{XY}:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)によって記述されているものとします。つまり、同時確率変数\(\left( X,Y\right) \)の値がベクトル\(\left( x,y\right) \in \mathbb{R} ^{2}\)と一致する確率は、\begin{equation*}P\left( X=x\wedge Y=y\right) =f_{XY}\left( x,y\right)
\end{equation*}であり、同時確率変数\(\left( X,Y\right) \)の値が集合\(A\times B\subset \mathbb{R} ^{2}\)に属する確率は、\begin{equation*}P\left( \left( X,Y\right) \in A\times B\right) =\sum_{\left( x,y\right) \in
A\times B}f_{XY}\left( x,y\right)
\end{equation*}であるということです。

問題としている試行のもとで同時確率変数\(\left( X,Y\right) \)がとり得る値の範囲\(\left( X,Y\right) \left( \Omega \right) \)は分かっていますが、試行はランダムネスによって支配されているため、\(\left( X,Y\right) \left( \Omega\right) \)の中のどのベクトルが実際に実現するかを事前に特定できません。したがって、何らかの手段を通じて\(\left( X,Y\right) \left( \Omega \right) \)の中のどのベクトルが実際に実現するかを予測する必要があります。\(\left( X,Y\right) \)の実現値を予想する際に期待値（expectation）と呼ばれる指標を参考にすることは最も基本的な考え方です。

離散型の同時確率変数\(\left( X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}\)の同時確率分布が同時確率質量関数\(f_{XY}:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)によって記述されているものとします。問題としている試行はランダムネスによって支配されているため、\(\left( X,Y\right) \left( \Omega \right) \)に属するどのベクトルが実際に実現するかを事前に知ることはできません。そこで、\(\left( X,Y\right) \)の実現値の見込み値を表す指標として、個々の確率変数\(X,Y\)の期待値からなるベクトル\begin{equation*}\left( E\left( X\right) ,E\left( Y\right) \right) =\left( \sum_{x\in X\left(
\Omega \right) }\left[ x\cdot f_{X}\left( x\right) \right] ,\sum_{y\in
Y\left( \Omega \right) }\left[ y\cdot f_{Y}\left( y\right) \right] \right)
\end{equation*}を採用します。ただし、\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)は確率変数\(X\)に関する（周辺）確率質量関数であり、\(f_{Y}:\mathbb{R} \rightarrow \mathbb{R} \)は確率変数\(Y\)に関する（周辺）確率質量関数です。以上の指標を同時確率変数\(\left( X,Y\right) \)の期待値（expectation）や平均値（mean）などと呼び、\begin{equation*}E\left( X,Y\right)
\end{equation*}で表記します。つまり、\begin{equation*}
E\left( X,Y\right) =\left( E\left( X\right) ,E\left( Y\right) \right)
\end{equation*}を満たすものとして同時確率変数の期待値\(E\left( X,Y\right) \)は定義されます。

不注意な統計学者の法則（LOTUS）

離散型の同時確率変数\(\left( X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}\)の同時確率分布が同時確率質量関数\(f_{XY}:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)によって記述されているものとします。2変数関数\(g:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)を任意に選んだ上で、それぞれの\(\omega \in \Omega \)に対して、\begin{eqnarray*}Z\left( \omega \right) &=&\left( g\circ \left( X,Y\right) \right) \left(
\omega \right) \\
&=&g\left( \left( X,Y\right) \left( \omega \right) \right) \quad \because
\text{合成関数の定義} \\
&=&g\left( X\left( \omega \right) ,Y\left( \omega \right) \right) \quad
\because \left( X,Y\right) \text{の定義}
\end{eqnarray*}を定める新たな確率変数\(Z:\Omega \rightarrow \mathbb{R} \)を定義します。確率変数\(Z\)の期待値が存在する場合には、\begin{equation*}E\left( Z\right) =\sum_{\left( x,y\right) \in \left( X,Y\right) \left(
\Omega \right) }\left[ g\left( x,y\right) \cdot f_{XY}\left( x,y\right) \right] \end{equation*}という関係が成り立つことが保証されます。これを不注意な統計学者の法則（law of the unconscious statistician）やLOTUSなどと呼びます。

確率変数\(Z=g\left( X,Y\right) \)の期待値を求める際、期待値の本来の定義にもとづいて考えるのであれば、\begin{equation*}z=f\left( x,y\right)
\end{equation*}とおいた上で、確率変数\(Z\)の確率分布を描写する確率質量関数\(f_{Z}:\mathbb{R} \rightarrow \mathbb{R} \)を特定した上で、\begin{equation*}E\left( Z\right) =\sum_{z\in Z\left( \Omega \right) }\left[ z\cdot
f_{Z}\left( z\right) \right] \end{equation*}と計算する必要があります。つまり、本来、確率変数\(Z\)の期待値は\(Z\)の確率分布にもとづいて計算する必要があり、同時確率変数\(\left( X,Y\right) \)の確率分布をそのまま流用できることは必ずしも自明ではありません。であるにもかかわらず、統計学の多くの教科書では、確率変数\(Z\)の期待値を導出する際に、同時確率変数\(\left( X,Y\right) \)の同時確率分布を描写する同時確率質量関数\(f_{XY}:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)を用いて、\begin{equation*}E\left( Z\right) =\sum_{\left( x,y\right) \in \left( X,Y\right) \left(
\Omega \right) }\left[ g\left( x,y\right) \cdot f_{XY}\left( x,y\right) \right] \end{equation*}としています。なぜなら、多くの不注意な人は、このような関係が成り立つことが自明であると思いこんでいるからです。ただ、実際には、上の命題が示すように、このような関係が成り立つことはきちんと証明されるべきです。このような背景を踏まえた上で、上の命題は「不注意な統計者の法則（LOTUS）」と呼ばれます。

2つの独立な離散型確率変数の積の期待値

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)における2つの離散型の確率変数\begin{eqnarray*}X &:&\Omega \rightarrow \mathbb{R} \\
Y &:&\Omega \rightarrow \mathbb{R} \end{eqnarray*}が与えられているとともに、これらの確率分布が確率関数\begin{eqnarray*}
f_{X} &:&\mathbb{R} \rightarrow \mathbb{R} \\
f_{Y} &:&\mathbb{R} \rightarrow \mathbb{R} \end{eqnarray*}としてそれぞれ記述されているものとします。以上の2つの確率変数\(X,Y\)の同時確率変数は、\begin{equation*}\left( X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}
\end{equation*}であり、その同時確率分布が同時確率関数\begin{equation*}
f_{XY}:\mathbb{R} ^{2}\rightarrow \mathbb{R} \end{equation*}として記述されているものとします。さらに、確率関数\(X,Y\)が独立であるものとします。この場合、以下の関係\begin{equation*}\forall x,y\in \mathbb{R} :f_{XY}\left( x,y\right) =f_{X}\left( x\right) \cdot f_{Y}\left( y\right)
\end{equation*}が成り立つことに注意してください。以上を踏まえた上で、それぞれの\(\omega \in \Omega \)に対して、\begin{equation*}Z\left( \omega \right) =X\left( \omega \right) \cdot Y\left( \omega \right)
\end{equation*}を定める新たな確率関数\(Z:\Omega \rightarrow \mathbb{R} \)を定義します。以上の条件が満たされるとともに、確率変数\(X,Y\)の期待値\(E\left( X\right) ,E\left( Y\right) \)がともに存在する場合、確率変数\(Z\)の期待値が、\begin{equation*}E\left( Z\right) =E\left( X\right) \cdot E\left( Y\right)
\end{equation*}として定まることが保証されます。つまり、2つの独立な確率変数の積として定義される確率変数の期待値は、個々の確率変数の期待値の積と一致します。

上の命題における主張が常に成り立つことを保証するためには2つの確率変数が独立である必要があります。つまり、確率変数\(X,Y\)が独立ではない場合には、確率変数\(X,Y\)の積として定義される確率変数\(XY\)の期待値は、個々の確率変数\(X,Y\)の期待値の積と一致するとは限りません。以下の例より明らかです。

演習問題