2つの確率変数の独立性

2つの確率変数の独立性

問題としている試行に関する確率空間\(\left(\Omega ,\mathcal{F},P\right) \)が与えられたとき、2つの事象\(A,B\in \mathcal{F}\)が独立であることを、\begin{equation*}P\left( A\cap B\right) =P\left( A\right) \cdot P\left( B\right)
\end{equation*}が成り立つこととして定義しました。これは、2つの事象\(A,B\)の一方が起きているかどうかが他方の事象が起こる確率に影響を与えないことを意味します。加えて、2つの事象族\(\mathcal{A},\mathcal{B}\subset \mathcal{F}\)が独立であることを、\begin{equation*}\forall A\in \mathcal{A},\ \forall B\in \mathcal{B}:P\left( A\cap B\right)
=P\left( A\right) \cdot P\left( B\right)
\end{equation*}が成り立つこととして定義しました。これは、それぞれの事象族からどの事象を選んだ場合でもそれらが独立であることを意味します。以上を踏まえた上で、2つの確率変数が独立であることの意味を定義します。

標本空間と事象空間からなる可測空間\(\left(\Omega ,\mathcal{F}\right) \)と、実数空間とボレル集合族からなる可測空間\(\left( \mathbb{R} ,\mathcal{B}\right) \)に加えて、2つの確率変数\begin{eqnarray*}X &:&\Omega \rightarrow \mathbb{R} \\
Y &:&\Omega \rightarrow \mathbb{R} \end{eqnarray*}が与えられているものとします。

それぞれの確率変数から生成される\(\sigma \)-代数は、\begin{eqnarray*}\sigma \left( X\right) &=&\left\{ X^{-1}\left( B\right) \in 2^{\Omega }\ |\
B\in \mathcal{B}\right\} \\
\sigma \left( Y\right) &=&\left\{ Y^{-1}\left( B\right) \in 2^{\Omega }\ |\
B\in \mathcal{B}\right\}
\end{eqnarray*}と定義されます。その上で、これらが事象族として独立である場合には、すなわち、\begin{equation*}
\forall A\in \sigma \left( X\right) ,\ \forall B\in \sigma \left( Y\right)
:P\left( A\cap B\right) =P\left( A\right) \cdot P\left( B\right)
\end{equation*}が成り立つ場合には、\(X\)と\(Y\)は独立である（independent）と言います。一方、2つの確率変数\(X,Y\)が独立でない場合には、すなわち、\begin{equation*}\exists A\in \sigma \left( X\right) ,\ \exists B\in \sigma \left( Y\right)
:P\left( A\cap B\right) \not=P\left( A\right) \cdot P\left( B\right)
\end{equation*}が成り立つ場合には、\(A\)と\(B\)は従属である（dependent）と言います。

分布を用いた2つの確率変数の独立性の表現

2つの確率変数\begin{eqnarray*}
X &:&\Omega \rightarrow \mathbb{R} \\
Y &:&\Omega \rightarrow \mathbb{R} \end{eqnarray*}が与えられればベクトル値写像\begin{equation*}
\left( X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}
\end{equation*}が定義可能であり、これはそれぞれの\(\omega \in\Omega \)に対して以下のベクトル\begin{equation*}\left( X,Y\right) \left( \omega \right) =\left( X\left( \omega \right)
,Y\left( \omega \right) \right)
\end{equation*}を値として定めます。加えて、\(X\)と\(Y\)が確率変数である場合には\(\left( X,Y\right) \)が同時確率変数になることが保証されます。

確率変数\(X,Y\)の分布を、\begin{eqnarray*}\mu _{X} &:&\mathcal{B}\rightarrow \mathbb{R} \\
\mu _{Y} &:&\mathcal{B}\rightarrow \mathbb{R} \end{eqnarray*}でそれぞれ表記します。これらの分布がそれぞれのボレル集合\(A,B\in \mathcal{B}\)に対して定める値は、\begin{eqnarray*}\mu _{X}\left( A\right) &=&P\left( X\in A\right) =P\left( X^{-1}\left(
A\right) \right) \\
\mu _{Y}\left( B\right) &=&P\left( X\in B\right) =P\left( Y^{-1}\left(
B\right) \right)
\end{eqnarray*}です。また、同時確率変数\(\left( X,Y\right) \)の分布を、\begin{equation*}\mu _{\left( X,Y\right) }:\mathcal{B}^{2}\rightarrow \mathbb{R} \end{equation*}で表記します。この分布がボレル集合\(A\times B\in \mathcal{B}^{2}\)に対して定める値は、\begin{eqnarray*}\mu _{\left( X,Y\right) }\left( A\times B\right) &=&P\left( \left(
X,Y\right) \in A\times B\right) \\
&=&P\left( \left( X,Y\right) ^{-1}\left( A\times B\right) \right) \\
&=&P\left( X^{-1}\left( A\right) \cap Y^{-1}\left( B\right) \right)
\end{eqnarray*}です。

以上を踏まえた上で、\begin{equation*}
\forall A\times B\in \mathcal{B}^{2}:\mu _{\left( X,Y\right) }\left( A\times
B\right) =\mu _{X}\left( A\right) \cdot \mu _{Y}\left( B\right)
\end{equation*}すなわち、\begin{equation*}
\forall A\times B\in \mathcal{B}^{2}:P\left( \left( X,Y\right) \in A\times
B\right) =P\left( X\in A\right) \cdot P\left( X\in B\right)
\end{equation*}すなわち、\begin{equation*}
\forall A\times B\in \mathcal{B}^{2}:P\left( X^{-1}\left( A\right) \cap
Y^{-1}\left( B\right) \right) =P\left( X^{-1}\left( A\right) \right) \cdot
P\left( Y^{-1}\left( B\right) \right)
\end{equation*}が成り立つことは、\(X\)と\(Y\)が独立であるための必要十分条件になります。

2つの確率変数が独立であるための条件

2つの確率変数\(X,Y\)が独立であることを、\begin{equation*}\forall A\in \sigma \left( X\right) ,\ \forall B\in \sigma \left( Y\right)
:P\left( A\cap B\right) =P\left( A\right) \cdot P\left( B\right)
\end{equation*}が成り立つこととして定義するとともに、これは以下の条件\begin{equation*}
\forall A\times B\in \mathcal{B}^{2}:P\left( \left( X,Y\right) \in A\times
B\right) =P\left( X\in A\right) \cdot P\left( X\in B\right)
\end{equation*}と必要十分であることを示しました。したがって、\(X\)と\(Y\)が独立であることを示すためには、すべてのボレル集合\(A,B\in \mathcal{B}\)に対して、\begin{equation*}P\left( \left( X,Y\right) \in A\times B\right) =P\left( X\in A\right) \cdot
P\left( X\in B\right)
\end{equation*}が成り立つことを示す必要があります。ただ、ボレル集合は無数に存在するため、このような検証を実際に行うのは大変です。ただ、実際には、すべてのボレル集合について以上の条件が成り立つことを検証する必要はありません。具体的には以下の通りです。

実数\(x,y\in \mathbb{R} \)を任意に選んだ上で、これらを端点とする区間\begin{eqnarray*}&&(-\infty ,x] \\
&&(-\infty ,y] \end{eqnarray*}をそれぞれとります。これらはともにボレル集合です。つまり、\begin{eqnarray*}
\forall x &\in &\mathbb{R} :(-\infty ,x]\in \mathcal{B} \\
\forall y &\in &\mathbb{R} :(-\infty ,y]\in \mathcal{B}
\end{eqnarray*}です。その上で、以下の条件\begin{equation*}
\forall x,y\in \mathbb{R} :P\left( \left( X,Y\right) \in (-\infty ,x]\times (-\infty ,y]\right)
=P\left( X\in (-\infty ,x]\right) \cdot P\left( X\in (-\infty ,y]\right)
\end{equation*}すなわち、\begin{equation*}
\forall x,y\in \mathbb{R} :P\left( X\leq x\wedge Y\leq y\right) =P\left( X\leq x\right) \cdot P\left(
X\leq y\right)
\end{equation*}が成り立つ場合には、\(X\)と\(Y\)が独立になることが保証されます。