同時確率変数の定義

同時確率変数を導入する動機

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて確率変数\begin{equation*}X:\Omega \rightarrow \mathbb{R} \end{equation*}が与えられているものとします。つまり、標本点\(\omega \in \Omega \)が実現した場合、その事実を実数\(X\left( \omega \right) \in \mathbb{R} \)に変換して表現する状況を想定します。

確率変数の定義より、\begin{equation*}
\forall B\in \mathcal{B}\left( \mathbb{R} \right) :X^{-1}\left( B\right) \in \mathcal{F}
\end{equation*}すなわち、\begin{equation*}
\forall B\in \mathcal{B}\left( \mathbb{R} \right) :\left\{ \omega \in \Omega \ |\ X\left( \omega \right) \in B\right\}
\in \mathcal{F}
\end{equation*}が成り立ちます。ただし、\(\mathcal{B}\left( \mathbb{R} \right) \)は\(\mathbb{R}\)上のボレル集合族です。つまり、ボレル集合\(B\in \mathcal{B}\left( \mathbb{R} \right) \)を任意に選んだとき、「\(X\)の実現値が集合\(B\)に属する」という事象がもとの確率空間\(\left( \Omega ,\mathcal{F},P\right) \)において可測になることが保証される場合には、\(X\)を確率変数と呼ぶということです。

確率変数を利用すれば標本点が持つ特定の属性を数値化できます。ただ、確率変数はそれぞれの標本点に対して実数を1つずつ定めるルールであるため、標本点が持つ複数の属性を同時に扱うことはできません。標本点が持つ複数の属性の関係を分析するためには複数の確率変数を同時に扱う必要があります。まずは、2つの確率変数を同時に扱う方法について解説します。

同時確率変数の定義

標本空間\(\Omega \)と事象空間\(\mathcal{F}\subset 2^{\Omega }\)および確率測度\(P:\mathcal{F}\rightarrow \mathbb{R} \)からなる確率空間\begin{equation*}\left( \Omega ,\mathcal{F},P\right)
\end{equation*}に加えて、平面\(\mathbb{R} ^{2}\)と\(\mathbb{R} ^{2}\)上のボレル集合\(\mathcal{B}\left( \mathbb{R} ^{2}\right) \)およびボレル測度\(\mu :\mathcal{B}\left( \mathbb{R} ^{2}\right) \rightarrow \mathbb{R} _{+}\cup \left\{ +\infty \right\} \)からなる測度空間\begin{equation*}\left( \mathbb{R} ^{2},\mathcal{B}\left( \mathbb{R} ^{2}\right) ,\mu \right)
\end{equation*}が与えられているものとします。2つの実数値写像\begin{eqnarray*}
X &:&\Omega \rightarrow \mathbb{R} \\
Y &:&\Omega \rightarrow \mathbb{R} \end{eqnarray*}が与えられれば、それぞれの標本点\(\omega \in \Omega \)に対して、以下のベクトル\begin{equation*}\left( X,Y\right) \left( \omega \right) =\left( X\left( \omega \right)
,Y\left( \omega \right) \right) \in \mathbb{R} ^{2}
\end{equation*}を値として定めるベクトル値写像\begin{equation*}
\left( X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}
\end{equation*}が定義可能です。つまり、それぞれの標本点\(\omega \in \Omega \)をベクトル\(\left( X,Y\right) \left( \omega \right) \in \mathbb{R} ^{2}\)へ変換する状況を想定するということです。

変換後の測度空間\(\left( \mathbb{R} ^{2},\mathcal{B}\left( \mathbb{R} ^{2}\right) ,\mu \right) \)において可測な集合、すなわちボレル集合\(B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) \)を任意に選びます。もとの確率空間\(\left(\Omega ,\mathcal{F},P\right) \)においてこの集合\(B\)に対応する集合は、写像\(\left( X,Y\right) \)のもとでの集合\(B\)の逆像\begin{eqnarray*}\left( X,Y\right) ^{-1}\left( B\right) &=&\left\{ \omega \in \Omega \ |\
\left( X,Y\right) \left( \omega \right) \in B\right\} \quad \because \text{逆像の定義} \\
&=&\left\{ \omega \in \Omega \ |\ \left( X\left( \omega \right) ,Y\left(
\omega \right) \right) \in B\right\} \quad \because \left( X,Y\right) \text{の定義}
\end{eqnarray*}です。したがって、変換後の測度空間\(\left( \mathbb{R} ^{2},\mathcal{B}\left( \mathbb{R} ^{2}\right) ,\mu \right) \)において可測な集合\(B\)が与えられたとき、もとの確率空間\(\left( \Omega ,\mathcal{F},P\right) \)においてこの集合に対応する集合が可測であることは、以下の条件\begin{equation*}\left( X,Y\right) ^{-1}\left( B\right) \in \mathcal{F}
\end{equation*}が成り立つことを意味します。

以上を踏まえた上で、変換後の測度空間\(\left( \mathbb{R} ^{2},\mathcal{B}\left( \mathbb{R} ^{2}\right) ,\mu \right) \)において可測な集合\(B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) \)を任意に選んだ場合、もとの確率空間\(\left( \Omega ,\mathcal{F},P\right) \)においてこの集合\(B\)の逆像が可測であることが保証されるならば、すなわち、以下の条件\begin{equation*}\forall B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) :\left( X,Y\right) ^{-1}\left( B\right) \in \mathcal{F}
\end{equation*}すなわち、\begin{equation*}
\forall B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) :\left\{ \omega \in \Omega \ |\ \left( X,Y\right) \left( \omega
\right) \in B\right\} \in \mathcal{F}
\end{equation*}が成り立つ場合には、この写像\(X\)を同時確率変数（joint random variable）と呼びます。またこのとき、\(\left( X,Y\right) \)は\(\mathcal{F}\)-可測（\(\mathcal{F}\)-measurable）であると言います。

同時確率変数であるための必要十分条件

平面上のボレル集合族\(\mathcal{B}\left( \mathbb{R} ^{2}\right) \subset 2^{\mathbb{R} ^{2}}\)は\(\sigma \)-代数であるため、\begin{equation*}\sigma \left( \mathcal{B}\left( \mathbb{R} ^{2}\right) \right) =\mathcal{B}\left( \mathbb{R} ^{2}\right)
\end{equation*}が成り立ちます。以上より、\(\mathcal{B}\left( \mathbb{R} ^{2}\right) \)を生成する\(\mathbb{R} ^{2}\)の部分集合族が存在することが明らかになりました。

ボレル集合族\(\mathcal{B}\left( \mathbb{R} ^{2}\right) \)を生成する\(\mathbb{R} ^{2}\)の部分集合族\(\mathcal{A}\subset 2^{\mathbb{R} ^{2}}\)を任意に選びます。つまり、以下の条件\begin{equation*}\sigma \left( \mathcal{A}\right) =\mathcal{B}\left( \mathbb{R} ^{2}\right)
\end{equation*}を満たす\(\mathcal{A}\)を選ぶということです。先の議論より、\(\mathcal{B}\left( \mathbb{R} ^{2}\right) \)自身は\(\mathcal{A}\)の具体例の1つです。このような集合族\(\mathcal{A}\)の要素\(B\in \mathcal{A}\)を任意に選んだとき、もとの確率空間\(\left( \Omega ,\mathcal{F},P\right) \)においてその逆像が可測であることは、すなわち、\begin{equation*}\forall B\in \mathcal{A}:\left( X,Y\right) ^{-1}\left( B\right) \in \mathcal{F}
\end{equation*}すなわち、\begin{equation*}
\forall B\in \mathcal{A}:\left\{ \omega \in \Omega \ |\ \left( X,Y\right)
\left( \omega \right) \in B\right\} \in \mathcal{F}
\end{equation*}が成り立つことは、写像\(\left( X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}\)が同時確率変数であるための必要十分条件になります。

区間を用いた同時確率変数の表現

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)および写像\(\left( X,Y\right) :\Omega\rightarrow \mathbb{R} ^{2}\)が与えられているものとします。先の命題より、以下の条件\begin{equation*}\sigma \left( \mathcal{A}\right) =\mathcal{B}\left( \mathbb{R} ^{2}\right)
\end{equation*}を満たす何らかの集合族\(\mathcal{A}\subset 2^{\mathbb{R} ^{2}}\)について、\begin{equation*}\forall B\in \mathcal{A}:\left( X,Y\right) ^{-1}\left( B\right) \in \mathcal{F}
\end{equation*}が成り立つならば、\(\left( X,Y\right) \)は同時確率変数になります。

平面上のボレル集合族\(\mathcal{B}\left( \mathbb{R} ^{2}\right) \)は様々な区間族から生成可能です。具体例を挙げると、以下の区間族\begin{eqnarray*}\mathcal{A}_{1} &=&\left\{ \left( -\infty ,c_{1}\right] \times \left(
-\infty ,c_{2}\right] \subset \mathbb{R} ^{2}\ |\ c_{1},c_{2}\in \mathbb{R} \right\} \\
\mathcal{A}_{2} &=&\left\{ \left( -\infty ,c_{1}\right) \times \left(
-\infty ,c_{2}\right) \subset \mathbb{R} ^{2}\ |\ c_{1},c_{2}\in \mathbb{R} \right\} \\
\mathcal{A}_{3} &=&\left\{ \left[ c_{1},+\infty \right) \times \left[
c_{2},+\infty \right) \subset \mathbb{R} ^{2}\ |\ c_{1},c_{2}\in \mathbb{R} \right\} \\
\mathcal{A}_{4} &=&\left\{ \left( c_{1},+\infty \right) \times \left(
c_{2},+\infty \right) \subset \mathbb{R} ^{2}\ |\ c_{1},c_{2}\in \mathbb{R} \right\}
\end{eqnarray*}などに関して、\begin{equation*}
\mathcal{B}\left( \mathbb{R}^{2} \right) =\sigma \left( \mathcal{A}_{1}\right) =\sigma \left( \mathcal{A}_{2}\right) =\sigma \left( \mathcal{A}_{3}\right) =\sigma \left( \mathcal{A}_{4}\right)
\end{equation*}が成り立つため、以上の事実と先の命題を利用することにより、同時確率変数を以下のように様々な形で表現できます。

確率変数から定義されるベクトル写像は同時確率変数

2つの実数値写像\(X,Y\)がともに確率変数である場合、それらから定義されるベクトル値写像\(\left( X,Y\right) \)は同時確率変数になることが保証されます。

ベクトル値写像が生成するσ-代数

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)およびベクトル値写像\(\left( X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}\)が与えられたとき、\(\left( X,Y\right) \)が同時確率変数であることを、\begin{equation*}\forall B\in \mathcal{A}:\left( X,Y\right) ^{-1}\left( B\right) \in \mathcal{F}
\end{equation*}が成り立つこととして定義しました。さらに、以下の条件\begin{equation*}
\sigma \left( \mathcal{A}\right) =\mathcal{B}\left( \mathbb{R} ^{2}\right)
\end{equation*}を満たす何らかの集合族\(\mathcal{A}\subset 2^{\mathbb{R} ^{2}}\)について、\begin{equation*}\forall B\in \mathcal{A}:\left( X,Y\right) ^{-1}\left( B\right) \in \mathcal{F}
\end{equation*}が成り立つことは、\(\left( X,Y\right) \)が同時確率変数であるための必要十分条件であることを示しました。いずれにせよ、与えられたベクトル値写像\(\left( X,Y\right) \)が以上の条件を満たすことを確認するのは面倒です。そこで、確率空間\(\left( \Omega ,\mathcal{F},P\right) \)を構成する事象空間\(\mathcal{F}\)を別の\(\sigma \)-代数へ代替することにより、ベクトル値写像\(\left(X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}\)が必ず同時確率変数になる形へ舞台を整えます。

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)およびベクトル値写像\(\left( X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}\)が与えられているものとします。その上で、以下のような\(\Omega \)の部分集合族\begin{eqnarray*}\sigma \left( \left( X,Y\right) \right) &=&\left\{ A\in 2^{\Omega }\ |\
\exists B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) :A=\left( X,Y\right) ^{-1}\left( B\right) \right\} \\
&=&\left\{ \left( X,Y\right) ^{-1}\left( B\right) \in 2^{\Omega }\ |\ B\in
\mathcal{B}\left( \mathbb{R} ^{2}\right) \right\}
\end{eqnarray*}を定義し、これをベクトル値写像\(\left( X,Y\right) \)が生成する\(\sigma \)-代数（\(\sigma \)-algebra generated by \(\left( X,Y\right) \)）と呼びます。集合\(A\in2^{\Omega }\)を任意に選んだとき、\(\sigma \left( \left( X,Y\right) \right) \)の定義より、\begin{equation*}A\in \sigma \left( \left( X,Y\right) \right) \Leftrightarrow \exists B\in
\mathcal{B}\left( \mathbb{R} ^{2}\right) :A=\left( X,Y\right) ^{-1}\left( B\right)
\end{equation*}が成り立ちます。つまり、変換後の測度空間\(\left( \mathbb{R} ^{2},\mathcal{B}\left( \mathbb{R} ^{2}\right) ,\mu \right) \)上に存在する何らかの可測集合\(B\)の逆像をすべて集めることにより得られる事象族が\(\sigma \left( \left( X,Y\right) \right) \)です。

その名の通り\(\sigma \left( \left(X,Y\right) \right) \)は\(\sigma \)-代数であるため、確率空間\(\left(\Omega ,\mathcal{F},P\right) \)の事象空間を\(\mathcal{F}\)から\(\sigma \left( \left( X,Y\right)\right) \)へ変更し、それにあわせて確率測度\(P\)の定義域を\(\mathcal{F}\)から\(\sigma \left(\left( X,Y\right) \right) \)へ縮小して\(\left(\Omega ,\sigma \left( \left( X,Y\right) \right) ,P\right) \)としても確率空間の公理は満たされます。加えて、事象空間を\(\mathcal{F}\)から\(\sigma \left( \left( X,Y\right) \right) \)へ変更することにより、ベクトル値写像\(\left( X,Y\right):\Omega \rightarrow \mathbb{R} ^{2}\)は同時確率変数になります。つまり、\begin{equation*}\forall B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) :\left( X,Y\right) ^{-1}\left( B\right) \in \sigma \left( \left(
X,Y\right) \right)
\end{equation*}が成り立つということです。しかも、\(\sigma\left( \left( X,Y\right) \right) \)はベクトル値写像\(\left( X,Y\right) \)を同時確率変数にする最小の\(\sigma \)-代数です。つまり、以下の条件\begin{equation*}\forall B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) :\left( X,Y\right) ^{-1}\left( B\right) \in \mathcal{F}_{\lambda
}
\end{equation*}を満たす\(\sigma \)-代数\(\mathcal{F}_{\lambda }\subset 2^{\Omega }\)を任意に選んだとき、\begin{equation*}\sigma \left( \left( X,Y\right) \right) \subset \mathcal{F}_{\lambda }
\end{equation*}が成り立ちます。

ベクトル値写像が同時確率変数であるための必要十分条件を踏まえると、ベクトル値写像が生成する\(\sigma \)-代数を以下のように表現できます。

2つの写像\(X,Y:\Omega \rightarrow \mathbb{R} \)がそれぞれ生成する\(\sigma \)-代数は、\begin{eqnarray*}\sigma \left( X\right) &=&\left\{ X^{-1}\left( B\right) \in 2^{\Omega }\ |\
B\in \mathcal{B}\left( \mathbb{R} \right) \right\} \\
\sigma \left( Y\right) &=&\left\{ Y^{-1}\left( B\right) \in 2^{\Omega }\ |\
B\in \mathcal{B}\left( \mathbb{R} \right) \right\}
\end{eqnarray*}ですが、これらの和集合\begin{equation*}
\sigma \left( X\right) \cup \sigma \left( Y\right)
\end{equation*}をとった上で、そこから\(\sigma \)-代数\begin{equation*}\sigma \left( \sigma \left( X\right) \cup \sigma \left( Y\right) \right)
\end{equation*}を生成すると、これはベクトル値写像\(\left(X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}\)が生成する\(\sigma \)-代数と一致することが保証されます。つまり、\begin{equation*}\sigma \left( \left( X,Y\right) \right) =\sigma \left( \sigma \left(
X\right) \cup \sigma \left( Y\right) \right)
\end{equation*}が成り立つということです。

同時確率変数の同時分布

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)とベクトル値写像\(\left(X,Y\right) :\Omega \rightarrow \mathbb{R} ^{2}\)が与えられているものとします。事象空間\(\mathcal{F}\)を\(\left( X,Y\right) \)が生成する\(\sigma \)-代数\(\sigma \left( \left( X,Y\right)\right) \)へ制限して\(\left( \Omega ,\sigma\left( \left( X,Y\right) \right) ,P\right) \)とすれば\(\left( X,Y\right) \)は同時確率変数になるため、\begin{equation*}\forall B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) :\left( X,Y\right) ^{-1}\left( B\right) \in \sigma \left( \left(
X,Y\right) \right)
\end{equation*}が成り立つことが保証されます。したがって、確率測度\(P:\sigma \left(\left( X,Y\right) \right) \rightarrow \mathbb{R} \)に関して、\begin{equation*}\forall B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) :P\left( \left( X,Y\right) ^{-1}\left( B\right) \right) \in \mathbb{R} \end{equation*}が成り立ちます。つまり、ボレル集合\(B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) \)を任意に選んだとき、確率測度\(P\)が\(\left(X,Y\right) \)による\(B\)の逆像\(\left(X,Y\right) ^{-1}\left( B\right) \)が起こる確率\(P\left( \left( X,Y\right) ^{-1}\left( B\right) \right) \)を常に特定するということです。そこで、これを同時確率変数\(\left( X,Y\right) \)の値が\(B\)に属する確率として採用し、これを、\begin{equation*}P\left( \left( X,Y\right) \in B\right) =P\left( \left( X,Y\right)
^{-1}\left( B\right) \right)
\end{equation*}で表記します。

このような事情を踏まえると、それぞれのボレル集合\(B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) \)に対して、同時確率変数\(\left( X,Y\right) \)の値が\(B\)に属する確率\begin{eqnarray*}\mu _{XY}\left( B\right) &=&P\left( \left( X,Y\right) \in B\right) \\
&=&P\left( \left( X,Y\right) ^{-1}\left( B\right) \right)
\end{eqnarray*}を特定する写像\begin{equation*}
\mu _{XY}:\mathcal{B}\left( \mathbb{R} ^{2}\right) \rightarrow \mathbb{R} \end{equation*}が定義可能です。同時確率変数\(\left( X,Y\right) \)の同時分布（joint distribution）と呼びます。

同時確率変数\(\left( X,Y\right) :\Omega\rightarrow \mathbb{R} ^{2}\)からその同時分布\(\mu_{XY}:\mathcal{B}\left( \mathbb{R} ^{2}\right) \rightarrow \mathbb{R} \)を定義したとき、これは確率空間の公理\begin{eqnarray*}&&\left( a\right) \ \forall B\in \mathcal{B}\left( \mathbb{R} ^{2}\right) :\mu _{XY}\left( B\right) \geq 0 \\
&&\left( b\right) \ \mu _{XY}\left( \mathbb{R} ^{2}\right) =1 \\
&&\left( c\right) \ \forall \text{排反な}B_{1},B_{2},\cdots \in \mathcal{B}\left( \mathbb{R} ^{2}\right) :\mu _{XY}\left( \bigcup_{i\in \mathbb{N} }B_{i}\right) =\sum_{i\in \mathbb{N} }\mu _{XY}\left( B_{i}\right)
\end{eqnarray*}を満たします。したがって、\begin{equation*}
\left( \mathbb{R} ^{2},\mathcal{B}\left( \mathbb{R} ^{2}\right) ,\mu _{XY}\right)
\end{equation*}は確率空間になります。