独立同一分布（i.i.d.）にしたがう2つの連続型確率変数

独立同一分布にしたがう2つの確率変数

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて2つの確率変数\begin{eqnarray*}X &:&\Omega \rightarrow \mathbb{R} \\
Y &:&\Omega \rightarrow \mathbb{R} \end{eqnarray*}と同時確率変数\begin{equation*}
\left( X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}
\end{equation*}が与えられているものとします。

確率変数\(X,Y\)から生成される\(\sigma \)-代数は、\begin{eqnarray*}\sigma \left( X\right) &=&\left\{ X^{-1}\left( B\right) \in 2^{\Omega }\ |\
B\in \mathcal{B}\left( \mathbb{R} \right) \right\} \\
\sigma \left( Y\right) &=&\left\{ Y^{-1}\left( B\right) \in 2^{\Omega }\ |\
B\in \mathcal{B}\left( \mathbb{R} \right) \right\}
\end{eqnarray*}と定義されます。\(X\)と\(Y\)が独立であることは、\(\sigma \left( X\right) \)と\(\sigma \left( Y\right) \)が事象族として独立であること、すなわち、\begin{equation*}\forall A\in \sigma \left( X\right) ,\ \forall B\in \sigma \left( Y\right)
:P\left( A\cap B\right) =P\left( A\right) \cdot P\left( B\right)
\end{equation*}が成り立つこととして定義されます。以下の条件\begin{equation*}
\forall A,B\in \mathcal{B}\left( \mathbb{R} \right) :P\left( X\in A\wedge Y\in B\right) =P\left( X\in A\right) \cdot
P\left( Y\in B\right)
\end{equation*}が成り立つことは、\(X\)と\(Y\)が独立であるための必要十分条件です。

確率変数\(X,Y\)が同一分布にしたがうことは、\begin{equation*}\forall A\in \mathcal{B}\left( \mathbb{R} \right) :P\left( X\in A\right) =P\left( Y\in A\right)
\end{equation*}が成り立つこととして定義されます。

2つの確率変数\(X,Y:\Omega \rightarrow \mathbb{R} \)と同時確率変数\(\left( X,Y\right):\Omega \rightarrow \mathbb{R} ^{2}\)が与えられている状況において、\(X\)と\(Y\)が独立かつ同一分布にしたがう場合には、すなわち、\begin{eqnarray*}&&\left( a\right) \ \forall A,B\in \mathcal{B}\left( \mathbb{R} \right) :P\left( X\in A\wedge Y\in B\right) =P\left( X\in A\right) \cdot
P\left( Y\in B\right) \\
&&\left( b\right) \ \forall A\in \mathcal{B}\left( \mathbb{R} \right) :P\left( X\in A\right) =P\left( Y\in A\right)
\end{eqnarray*}がともに成り立つ場合には、\(X\)と\(Y\)は独立同一分布にしたがう（independent and identically distributed）と言います。英語の頭文字をとって、独立同一分布にしたがうことを、i.i.dやIIDなどと表記するのが慣例です。

独立同一分布にしたがう2つの連続型確率変数

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて絶対連続型の同時確率変数\(\left( X,Y\right):\Omega \rightarrow \mathbb{R} ^{2}\)とその同時確率密度関数\begin{equation*}f_{XY}:\mathbb{R} ^{2}\rightarrow \mathbb{R} \end{equation*}が与えられているものとします。つまり、同時確率変数\(\left( X,Y\right) \)の実現値が集合\(E\in \mathcal{B}\left( \mathbb{R} ^{2}\right) \)に属する確率は、\begin{equation}P\left( \left( X,Y\right) \in E\right) =\int \int_{E}f_{XY}\left( x,y\right)
dxdy \quad \cdots (1)
\end{equation}であるということです。同時確率質量関数\(f_{XY}\)を周辺化することにより個々の確率変数\(X,Y:\Omega \rightarrow \mathbb{R} \)の周辺確率密度関数\begin{eqnarray*}f_{X} &:&\mathbb{R} \rightarrow \mathbb{R} \\
f_{Y} &:&\mathbb{R} \rightarrow \mathbb{R} \end{eqnarray*}が得られます。周辺確率密度関数の定義より、集合\(A,B\in \mathcal{B}\left( \mathbb{R} \right) \)を任意に選んだとき、\begin{eqnarray}P\left( X\in A\right) &=&\int_{A}f_{X}\left( x\right) dx \quad \cdots (2) \\
P\left( Y\in B\right) &=&\int_{B}f_{Y}\left( y\right) dy \quad \cdots (3)
\end{eqnarray}が成り立ちます。

確率関数\(X,Y\)が独立同一分布にしたがうことは、\begin{eqnarray*}&&\left( a\right) \ \forall A,B\in \mathcal{B}\left( \mathbb{R} \right) :P\left( X\in A\wedge Y\in B\right) =P\left( X\in A\right) \cdot
P\left( Y\in B\right) \\
&&\left( b\right) \ \forall A\in \mathcal{B}\left( \mathbb{R} \right) :P\left( X\in A\right) =P\left( Y\in A\right)
\end{eqnarray*}がともに成り立つことを意味しますが、\(\left( 1\right) ,\left( 2\right) ,\left( 3\right) \)を用いると、これらを、\begin{eqnarray*}&&\left( a\right) \ \forall A,B\in \mathcal{B}\left( \mathbb{R} \right) :\int \int_{A\times B}f_{XY}\left( x,y\right)
dxdy=\int_{A}f_{X}\left( x\right) dx\cdot \int_{B}f_{Y}\left( y\right) dy \\
&&\left( b\right) \ \forall A\in \mathcal{B}\left( \mathbb{R} \right) :\int_{A}f_{X}\left( x\right) dx=\int_{A}f_{Y}\left( y\right) dy
\end{eqnarray*}と表現できます。そこで、以上の条件によって絶対連続型の確率変数\(X,Y\)が同一分布にしたがうことの定義とします。

絶対連続型確率変数が独立同一分布にしたがうことを以下のように表現することもできます。

確率変数どうしは独立同一分布にしたがうとは限りません。まずは独立である一方で同一分布にしたがわない2つの確率変数の例を挙げます。

続いて、同一分布にしたがう一方で独立ではない2つの確率変数の例を挙げます。

最後に、独立ではなく同一分布にもしたがわない2つの確率変数の例を挙げます。

分布関数を用いた離散型確率変数が独立同一分布にしたがうことの表現

確率変数が独立同一分布にしたがうことを分布関数を用いて表現することもできます。具体的には以下の通りです。

演習問題