有限個の連続型確率変数の独立性

有限個の確率変数の独立性

問題としている試行に関する確率空間\(\left(\Omega ,\mathcal{F},P\right) \)が与えられたとき、有限\(n\)個の事象\(A_{1},\cdots ,A_{n}\in \mathcal{F}\)が独立であることを、\begin{equation*}\forall J\subset \left\{ 1,\cdots ,n\right\} :P\left( \bigcap_{i\in
J}A_{i}\right) =\prod_{i\in J}P\left( A_{i}\right)
\end{equation*}が成り立つこととして定義しました。以上を踏まえた上で、有限\(n\)個の確率変数が独立であることの意味を定義します。

問題としている試行に関する確率ベクトル\begin{equation*}
\left( X_{1},\cdots ,X_{n}\right) :\Omega \rightarrow \mathbb{R} ^{n}
\end{equation*}が与えられている状況を想定します。集合\(A_{1},\cdots ,A_{n}\subset \mathbb{R} \)をそれぞれ任意に選んだとき、個々の確率変数\begin{equation*}X_{i}:\Omega \rightarrow \mathbb{R} \quad \left( i=1,\cdots ,n\right)
\end{equation*}について、「確率変数\(X_{i}\)の値が集合\(A_{i}\)に属する」という事象は、\begin{eqnarray*}&&\left\{ \omega \in \Omega \ |\ X_{1}\left( \omega \right) \in
A_{1}\right\} \\
&&\vdots \\
&&\left\{ \omega \in \Omega \ |\ X_{n}\left( \omega \right) \in
A_{n}\right\}
\end{eqnarray*}となります。以上の\(n\)個の事象の積事象は「確率変数\(X_{1},\cdots ,X_{n}\)の値がそれぞれ\(A_{1},\cdots ,A_{n}\)に属する」ですが、これは、\begin{equation*}\left\{ \omega \in \Omega \ |\ X_{1}\left( \omega \right) \in A_{1}\wedge
\cdots \wedge X_{n}\left( \omega \right) \in A_{n}\right\}
\end{equation*}すなわち、\begin{equation*}
\left\{ \omega \in \Omega \ |\ \left( X_{1},\cdots ,X_{n}\right) \left(
\omega \right) \in A_{1}\times \cdots \times A_{n}\right\}
\end{equation*}です。したがって、有限個の事象の独立性の定義より、先の\(n\)個の事象が独立であることとは、\begin{equation*}\forall J\subset \left\{ 1,\cdots ,n\right\} :P\left( \bigcap_{i\in
J}\left\{ \omega \in \Omega \ |\ X_{i}\left( \omega \right) \in
A_{i}\right\} \right) =\prod_{i\in J}P\left( \left\{ \omega \in \Omega \ |\
X_{i}\left( \omega \right) \in A_{i}\right\} \right)
\end{equation*}すなわち、\begin{equation*}
\forall J\subset \left\{ 1,\cdots ,n\right\} :P\left( \left( X_{i}\right)
_{i\in J}\right) =\prod_{i\in J}P\left( X_{i}\in A_{i}\right)
\end{equation*}が成り立つことを意味します。

以上を踏まえた上で、任意の集合\(A_{1},\cdots ,A_{n}\subset \mathbb{R} \)に対して、以下の\(n\)個の事象\begin{eqnarray*}&&\text{確率変数}X_{1}\text{の値が集合}A_{1}\text{に属する} \\
&&\vdots \\
&&\text{確率変数}X_{n}\text{の値が集合}A_{n}\text{に属する}
\end{eqnarray*}が独立である場合（もしくは独立であることを仮定する場合）には、すなわち、\begin{equation*}
\forall A_{1},\cdots ,A_{n}\subset \mathbb{R} ,\ \forall J\subset \left\{ 1,\cdots ,n\right\} :P\left( \left( X_{i}\right)
_{i\in J}\in \prod_{i\in J}A_{i}\right) =\prod_{i\in J}P\left( X_{i}\in
A_{i}\right)
\end{equation*}が成り立つ場合には、確率変数\(X_{1},\cdots ,X_{n}\)は独立である（independent）と言います。ただし、左辺の\(\prod \)は集合どうしの直積を表す記号であるのに対し、右辺の\(\prod \)は実数どうしの積を表す記号です。一方、確率変数\(X_{1},\cdots ,X_{n}\)が独立ではない場合には、すなわち、\begin{equation*}\exists A_{1},\cdots ,A_{n}\subset \mathbb{R} ,\ \exists J\subset \left\{ 1,\cdots ,n\right\} :P\left( \left( X_{i}\right)
_{i\in J}\in \prod_{i\in J}A_{i}\right) \not=\prod_{i\in J}P\left( X_{i}\in
A_{i}\right)
\end{equation*}が成り立つ場合には、確率変数\(X_{1},\cdots ,X_{n}\)は従属である（dependent）と言います。

有限個の連続型確率変数の独立性

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて連続型の確率ベクトル\begin{equation*}\left( X_{1},\cdots ,X_{n}\right) :\Omega \rightarrow \mathbb{R} ^{n}
\end{equation*}が与えられており、その同時確率分布が同時確率密度関数\begin{equation*}
f_{X_{1}\cdots X_{n}}:\mathbb{R} ^{n}\rightarrow \mathbb{R} \end{equation*}によって記述されているものとします。つまり、確率ベクトル\(\left( X_{1},\cdots ,X_{n}\right) \)の値が区間の直積\(I_{1}\times \cdots \times I_{n}\subset \mathbb{R} \)に属する確率が、\begin{equation*}P\left( \left( X_{1},\cdots ,X_{n}\right) \in I_{1}\times \cdots \times
I_{n}\right) =\int \cdots \int_{\left( x_{1},\cdots ,x_{n}\right) \in
I_{1}\times \cdots \times I_{n}}f_{X_{1}\cdots X_{n}}\left( x_{1},\cdots
,x_{n}\right) dx_{1}\cdots dx_{n}
\end{equation*}であるということです。同時確率質量関数\(f_{X_{1}\cdots X_{n}}\)を周辺化することにより個々の確率変数\(X_{i}:\Omega \rightarrow \mathbb{R} \ \left( i=1,\cdots n\right) \)の確率分布を描写する周辺確率密度関数\begin{equation*}f_{X_{i}}:\mathbb{R} \rightarrow \mathbb{R} \end{equation*}が得られます。周辺確率質量関数の定義より、区間\(I_{i}\subset \mathbb{R} \)を任意に選んだとき、\begin{equation*}P\left( X_{i}\in I_{i}\right) =\int_{x_{i}\in I_{i}}f_{X_{i}}\left(
x_{i}\right) dx_{i}
\end{equation*}という関係が成り立つことに注意してください。

先に定義したように、有限\(n\)個の確率変数\(X_{1},\cdots ,X_{n}\)が独立であることは、\begin{equation*}\forall A_{1},\cdots ,A_{n}\subset \mathbb{R} ,\ \forall J\subset \left\{ 1,\cdots ,n\right\} :P\left( \left( X_{i}\right)
_{i\in J}\in \prod_{i\in J}A_{i}\right) =\prod_{i\in J}P\left( X_{i}\in
A_{i}\right)
\end{equation*}が成り立つことを意味します。ただし、確率変数\(X_{1},\cdots ,X_{n}\)が連続型である場合の\(X_{1}\left( \Omega\right) ,\cdots ,X_{n}\left( \Omega \right) \)は区間もしくは互いに素な区間の和集合であるため、\(X_{1},\cdots ,X_{n}\)が独立であるためには、\begin{equation*}\forall I_{1},\cdots ,I_{n}\subset \mathbb{R} ,\ \forall J\subset \left\{ 1,\cdots ,n\right\} :P\left( \left( X_{i}\right)
_{i\in J}\in \prod_{i\in J}I_{i}\right) =\prod_{i\in J}P\left( X_{i}\in
I_{i}\right)
\end{equation*}が満たされていれば十分です。ただし、\(I_{1},\cdots ,I_{n}\)は区間です。同時確率密度関数\(f_{X_{1}\cdots X_{n}}\)および周辺確率密度関数\(f_{X_{i}}\)を用いることにより、以上の条件と必要十分な条件を以下のように表現できます。

確率変数どうしは独立であるとは限りません。以下の例より明らかです。

分布関数を用いた離散型確率変数の独立性の表現

有限個の連続型確率変数の独立性は分布関数を用いて表現することもできます。具体的には以下の通りです。

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて連続型の確率ベクトル\begin{equation*}\left( X_{1},\cdots ,X_{n}\right) :\Omega \rightarrow \mathbb{R} ^{n}
\end{equation*}が与えられており、その同時確率分布が同時分布関数\begin{equation*}
F_{X_{1}\cdots X_{n}}:\mathbb{R} ^{n}\rightarrow \mathbb{R} \end{equation*}によって記述されているものとします。つまり、確率ベクトル\(\left( X_{1},\cdots ,X_{n}\right) \)の値がベクトル\(\left( x_{1},\cdots ,x_{n}\right) \in \mathbb{R} ^{n}\)以下である確率は、\begin{eqnarray*}P\left( X_{1}\leq x_{1}\wedge \cdots \wedge X_{n}\leq x_{n}\right)
&=&F_{X_{1}\cdots X_{n}}\left( x_{1},\cdots ,x_{n}\right) \\
&=&\int_{-\infty }^{x_{1}}\cdots \int_{-\infty }^{x_{n}}f_{X_{1}\cdots
X_{n}}\left( y_{1},\cdots ,y_{n}\right) dy_{1}\cdots dy_{n}
\end{eqnarray*}です。同時分布関数\(F_{X_{1}\cdots X_{n}}\)を周辺化することにより周辺化することにより個々の確率変数\(X_{i}:\Omega \rightarrow \mathbb{R} \ \left( i=1,\cdots n\right) \)の確率分布を描写する周辺分布関数\begin{equation*}F_{X_{i}}:\mathbb{R} \rightarrow \mathbb{R} \end{equation*}が得られます。周辺分布関数の定義より、点\(x_{i}\in \mathbb{R} \)を任意に選んだとき、\begin{eqnarray*}F_{X_{i}}\left( x_{i}\right) &=&P\left( X_{i}\leq x_{i}\right) \\
&=&\int_{-\infty }^{x_{i}}f_{X_{i}}\left( y_{i}\right) dy_{i}
\end{eqnarray*}という関係が成り立つことに注意してください。

有限\(n\)個の連続型確率変数\(X_{1},\cdots ,X_{n}\)が独立であることは、同時分布関数\(F_{X_{1}\cdots X_{n}}\)および周辺分布\(F_{X_{i}}\)を用いて以下のように表現することができます。