同時確率分布から導かれる周辺確率分布
確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて確率ベクトル\begin{equation*}\left( X_{1},\cdots ,X_{n}\right) :\Omega \rightarrow \mathbb{R} ^{n}
\end{equation*}が与えられている場合、確率変数\(X_{1}:\Omega \rightarrow \mathbb{R} \)の値がある集合\(A_{1}\subset \mathbb{R} \)に属する確率\begin{equation*}P\left( X_{1}\in A_{1}\right)
\end{equation*}をどのように評価すればよいでしょうか。
確率ベクトル\(\left( X_{1},\cdots,X_{n}\right) \)はそれぞれの標本点\(\omega \in \Omega \)に対してベクトル\begin{equation*}\left( X_{1},\cdots ,X_{n}\right) \left( \omega \right) =\left( X_{1}\left(
\omega \right) ,\cdots ,X_{n}\left( \omega \right) \right) \in \mathbb{R} ^{n}
\end{equation*}を1つずつ定めるため、「確率変数\(X_{1}\)の値が集合\(A_{1}\)に属する」という事象は、\(X_{1}\left( \omega\right) \in A_{1}\)を満たす標本点\(\omega \)からなる集合\begin{eqnarray*}&&\left\{ \omega \in \Omega \ |\ X_{1}\left( \omega \right) \in
A_{1}\right\} \\
&=&\left\{ \omega \in \Omega \ |\ X_{1}\left( \omega \right) \in A_{1}\wedge
X_{2}\left( \omega \right) \in X\left( \Omega \right) \wedge \cdots \wedge
X_{n}\left( \omega \right) \in X_{n}\left( \Omega \right) \right\} \\
&=&\left\{ \omega \in \Omega \ |\ X_{1}\left( \omega \right) \in A_{1}\wedge
\left( X_{2},\cdots ,X_{n}\right) \left( \omega \right) \in \left(
X_{2},\cdots ,X_{n}\right) \left( \Omega \right) \right\}
\end{eqnarray*}として表現されます。したがって、「確率変数\(X_{1}\)の値が集合\(A_{1}\)に属する」という事象が起こる確率は、\begin{equation*}P\left( X_{1}\in A_{1}\right) =P\left( \left\{ \omega \in \Omega \ |\
X_{1}\left( \omega \right) \in A_{1}\wedge \left( X_{2},\cdots ,X_{n}\right)
\left( \omega \right) \in \left( X_{2},\cdots ,X_{n}\right) \left( \Omega
\right) \right\} \right)
\end{equation*}となります。他の確率変数\(X_{2},\cdots ,X_{n}\)についても同様に考えます。
確率ベクトル\(\left( X_{1},\cdots,X_{n}\right) \)が与えられている状況において、確率変数\(X_{1}\)の値がそれぞれの集合\(A_{1}\subset \mathbb{R} \)に属する確率\(P\left( X_{1}\in A_{1}\right) \)が明らかになっている場合、そのような情報の集まりを確率変数\(X_{1}\)の周辺確率分布（marginal probability distribution）と呼びます。他の確率変数\(X_{2},\cdots ,X_{n}\)についても同様に考えます。
離散型確率変数の周辺確率質量関数
確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて離散型の確率ベクトル\begin{equation*}\left( X_{1},\cdots ,X_{n}\right) :\Omega \rightarrow \mathbb{R} ^{n}
\end{equation*}が与えられており、その同時確率分布が同時確率質量関数\begin{equation*}
f_{X_{1}\cdots X_{n}}:\mathbb{R} ^{n}\rightarrow \mathbb{R} \end{equation*}によって記述されているものとします。つまり、確率ベクトル\(\left( X_{1},\cdots ,X_{n}\right) \)の値がベクトル\(\left( x_{1},\cdots ,x_{n}\right) \in \mathbb{R} ^{n}\)と一致する確率は、\begin{equation*}P\left( X_{1}=x_{1}\wedge \cdots \wedge X_{n}=x_{n}\right) =f_{X_{1}\cdots
X_{n}}\left( x_{1},\cdots ,x_{n}\right)
\end{equation*}であり、確率ベクトル\(\left( X_{1},\cdots ,X_{n}\right) \)の値が集合\(A_{1}\times \cdots \times A_{n}\subset \mathbb{R} ^{n}\)に属する確率は、\begin{equation*}P\left( \left( X_{1},\cdots ,X_{n}\right) \in A_{1}\times \cdots \times
A_{n}\right) =\sum_{\left( x_{1},\cdots ,x_{n}\right) \in A_{1}\times \cdots
\times A_{n}}f_{X_{1}\cdots X_{n}}\left( x_{1},\cdots ,x_{n}\right)
\end{equation*}であるということです。
確率ベクトル\(\left( X_{1},\cdots,X_{n}\right) \)の同時確率分布に関する以上の情報から、確率変数\(X_{1}\)の周辺確率分布を特定するためにはどうすればよいでしょうか。\(X_{1}\)は離散型の確率変数であるため、その確率分布を描写するためには確率質量関数\(f_{X_{1}}:\mathbb{R} \rightarrow \mathbb{R} \)を特定すれば十分です。確率質量関数の定義より、\(f_{X_{1}}\)がそれぞれの\(x_{1}\in \mathbb{R} \)に対して定める値は、確率変数\(X_{1}\)の値が\(x_{1}\)と一致する確率\begin{equation*}f_{X_{1}}\left( x_{1}\right) =P\left( X_{1}=x_{1}\right)
\end{equation*}ですが、この値は確率ベクトル\(\left( X_{1},\cdots ,X_{n}\right) \)の同時確率質量関数\(f_{X_{1}\cdots X_{n}}\)から以下のようにして導くことができます。
\begin{array}{cc}
\sum\limits_{\left( y_{1},\cdots ,y_{n}\right) \in \left( X_{1},\cdots
,X_{n}\right) \left( \Omega \right) \ s.t.\ y_{1}=x_{1}}f_{X_{1}\cdots
X_{n}}\left( y_{1},\cdots ,y_{n}\right) & \left( if\ x_{1}\in X_{1}\left(
\Omega \right) \right) \\
0 & \left( if\ x_{1}\not\in X_{1}\left( \Omega \right) \right)
\end{array}\right.
\end{equation*}を定める。
つまり、確率変数\(X_{1}\)の値が\(x_{1}\)と一致する確率\(f_{X_{1}}\left( x_{1}\right) \)を求めるためには、確率ベクトル\(\left( X_{1},\cdots ,X_{n}\right) \)がとり得る値の組\(\left( y_{1},\cdots,y_{n}\right) \)の中でも\(y_{1}\)が\(x_{1}\)と一致するものに対して確率\(f_{X_{1}\cdots X_{n}}\left( y_{1},\cdots,y_{n}\right) \)をそれぞれ特定し、得られた確率の総和をとればよいということです。他の確率変数\(X_{2},\cdots ,X_{n}\)についても同様に考えます。
\forall i\in \left\{ 1,2,3\right\} :\omega _{i}\in \left\{ \text{表},\text{裏}\right\} \right\}
\end{equation*}です。各回において表が出た場合にはポイント\(1\)を得て、裏が出た場合にはポイント\(1\)を失うものとします。各回に得るポイントの関係性を分析したい場合には、各回に得るポイントを特定する3個の確率変数の多変量確率変数を利用することになります。具体的には、「1回目に得るポイント」を特定する確率変数\(X:\Omega \rightarrow \mathbb{R} \)と「2回目に得るポイント」を特定する確率変数\(Y:\Omega \rightarrow \mathbb{R} \)と「3回目に得るポイント」を特定する確率変数\(Z:\Omega \rightarrow \mathbb{R} \)が与えられたとき、確率ベクトル\(\left( X,Y,Z\right) :\Omega\rightarrow \mathbb{R}^{3} \)がそれぞれの標本点\(\left( \omega _{1},\omega _{2},\omega _{3}\right) \in \Omega \)に対して定める値は、\begin{eqnarray*}\left( X,Y,Z\right) \left( \omega _{1},\omega _{2},\omega _{3}\right)
&=&\left( X\left( \omega _{1},\omega _{2},\omega _{3}\right) ,Y\left( \omega
_{1},\omega _{2},\omega _{3}\right) ,Z\left( \omega _{1},\omega _{2},\omega
_{3}\right) \right) \\
&=&\left\{
\begin{array}{cc}
\left( 1,1,1\right) & \left( if\ \left( \omega _{1},\omega _{2},\omega
_{3}\right) =\left( \text{表},\text{表},\text{表}\right)
\right) \\
\left( 1,1,-1\right) & \left( if\ \left( \omega _{1},\omega _{2},\omega
_{3}\right) =\left( \text{表},\text{表},\text{裏}\right)
\right) \\
\left( 1,-1,1\right) & \left( if\ \left( \omega _{1},\omega _{2},\omega
_{3}\right) =\left( \text{表},\text{裏},\text{表}\right)
\right) \\
\left( -1,1,1\right) & \left( if\ \left( \omega _{1},\omega _{2},\omega
_{3}\right) =\left( \text{裏},\text{表},\text{表}\right)
\right) \\
\left( 1,-1,-1\right) & \left( if\ \left( \omega _{1},\omega _{2},\omega
_{3}\right) =\left( \text{表},\text{裏},\text{裏}\right)
\right) \\
\left( -1,1,-1\right) & \left( if\ \left( \omega _{1},\omega _{2},\omega
_{3}\right) =\left( \text{裏},\text{表},\text{裏}\right)
\right) \\
\left( -1,-1,1\right) & \left( if\ \left( \omega _{1},\omega _{2},\omega
_{3}\right) =\left( \text{裏},\text{裏},\text{表}\right)
\right) \\
\left( -1,-1,-1\right) & \left( if\ \left( \omega _{1},\omega _{2},\omega
_{3}\right) =\left( \text{裏},\text{裏},\text{裏}\right)
\right)
\end{array}\right.
\end{eqnarray*}となります。\(\left( X,Y,Z\right) \)の値域は、\begin{eqnarray*}\left( X,Y,Z\right) \left( \Omega \right) &=&\left\{ \left( x,y,z\right)
\in \mathbb{R} ^{3}\ |\ x,y,z\in \left\{ 1,-1\right\} \right\} \\
&=&\left\{ 1,-1\right\} ^{3}
\end{eqnarray*}です。標本空間\(\Omega \)には\(2^{3}=8\)個の標本点が属しますが、仮に、これらがいずれも同じ程度の確かさで起こり得るのであれば、同時確率質量関数\(f_{XYZ}:\mathbb{R} ^{3}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{equation*}f_{XYZ}\left( x,y,z\right) =\left\{
\begin{array}{cl}
\frac{1}{8} & \left( if\ \left( x,y,z\right) \in \left( X,Y,Z\right) \left(
\Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めます。確率変数\(X\)の値域は、\begin{equation*}X\left( \Omega \right) =\left\{ 1,-1\right\}
\end{equation*}であり、\(X\)の周辺確率質量関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)がそれぞれの\(x\in X\left( \Omega\right) \)に対して定める値は、\begin{eqnarray*}f_{X}\left( 1\right) &=&f_{XYZ}\left( 1,1,1\right) +f_{XYZ}\left(
1,1,-1\right) +f_{XYZ}\left( 1,-1,1\right) +f_{XYZ}\left( 1,-1,-1\right) \\
&=&\frac{1}{8}+\frac{1}{8}+\frac{1}{8}+\frac{1}{8} \\
&=&\frac{1}{2}
\end{eqnarray*}であり、\begin{eqnarray*}
f_{X}\left( -1\right) &=&f_{XYZ}\left( -1,1,1\right) +f_{XYZ}\left(
-1,1,-1\right) +f_{XYZ}\left( -1,-1,1\right) +f_{XYZ}\left( -1,-1,-1\right)
\\
&=&\frac{1}{8}+\frac{1}{8}+\frac{1}{8}+\frac{1}{8} \\
&=&\frac{1}{2}
\end{eqnarray*}です。また、\(x\not\in X\left( \Omega\right) \)を満たす\(x\in \mathbb{R} \)に対して定める値は、\begin{equation*}f_{X}\left( x\right) =0
\end{equation*}です。結果をまとめると、\begin{equation*}
f_{X}\left( x\right) =\left\{
\begin{array}{cl}
\frac{1}{2} & \left( if\ x=1\right) \\
\frac{1}{2} & \left( if\ x=-1\right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}となります。他の確率変数\(Y,Z\)についても同様に考えます。
先の命題より、確率ベクトル\(\left( X_{1},\cdots ,X_{n}\right) \)の同時確率質量関数\(f_{X_{1}\cdots X_{n}}\)が与えられれば、そこから個々の確率変数\(X_{1},\cdots ,X_{n}\)の確率質量関数\(f_{X_{1}},\cdots ,f_{X_{n}}\)をそれぞれ導けることが明らかになりました。確率質量関数\(f_{X_{1}},\cdots,f_{X_{n}}\)が同時確率質量関数\(f_{X_{1}\cdots X_{n}}\)から導かれたものである場合には、\(f_{X_{1}},\cdots ,f_{X_{n}}\)のことを確率変数\(X_{1},\cdots ,X_{n}\)に関する周辺確率質量関数（marginal probability mass function）と呼びます。また、同時確率質量関数\(f_{X_{1}\cdots X_{n}}\)から周辺確率質量関数\(f_{X_{1}},\cdots ,f_{X_{n}}\)を導くプロセスを周辺化（marginalizing）と呼びます。
周辺確率分布としての周辺確率質量関数
繰り返しになりますが、離散型確率ベクトル\(\left( X_{1},\cdots ,X_{n}\right) \)の同時確率質量関数\(f_{X_{1}\cdots X_{n}}\)が与えられた場合、そこから確率変数\(X_{1}\)の周辺確率質量関数\(f_{X_{1}}\)を導くことができるとともに、確率変数\(X_{1}\)が値\(x_{1}\in \mathbb{R} \)をとる確率に関して、\begin{equation*}P\left( X_{1}=x_{1}\right) =f_{X_{1}}\left( x_{1}\right)
\end{equation*}という関係が成り立ちます。以上を踏まえると、確率変数\(X_{1}\)の値が集合\(A_{1}\subset \mathbb{R} \)に属する確率を、\begin{equation*}P\left( X_{1}\in A_{1}\right) =\sum_{x_{1}\in A_{1}}f_{X_{1}}\left(
x_{1}\right)
\end{equation*}という形で表すことができます。つまり、集合\(A_{1}\)に属するそれぞれの点\(x_{1}\)に対する確率\(f_{X_{1}}\left( x_{1}\right) \)をとり、それらの総和をとれば\(P\left( X_{1}\in A_{1}\right) \)が得られるということです。ただし、\(A_{1}\)が無限可算集合である場合、右辺のは無限級数の和です。他の確率変数\(X_{2},\cdots ,X_{n}\)についても同様に考えます。
x_{1}\right)
\end{equation*}という関係が成り立つ。
確率変数\(X_{1}\)の周辺確率質量関数\(f_{X_{1}}\)が与えられれば任意の集合\(A_{1}\subset \mathbb{R} \)に関する確率\(P\left( X_{1}\in A_{1}\right) \)を以上の要領で特定できるため、周辺確率質量関数\(f_{X_{1}}\)は確率変数\(X_{1}\)の周辺確率分布を表現する手段であることが明らかになりました。他の確率変数\(X_{2},\cdots ,X_{n}\)についても同様です。
\end{equation*}であるとともに、\(\left(X,Y,Z\right) \)の同時確率質量関数\(f_{XYZ}:\mathbb{R} ^{3}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{equation*}f_{XYZ}\left( x,y,z\right) =\left\{
\begin{array}{cl}
\frac{1}{8} & \left( if\ \left( x,y,z\right) \in \left( X,Y,Z\right) \left(
\Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めるものとします。確率変数\(X\)の値域は、\begin{equation*}X\left( \Omega \right) =\left\{ 1,-1\right\}
\end{equation*}であるとともに、\(X\)の周辺確率質量関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)がそれぞれの\(x\in \mathbb{R} \)に対して定める値は、\begin{equation*}f_{X}\left( x\right) =\left\{
\begin{array}{cl}
\frac{1}{2} & \left( if\ x=1\right) \\
\frac{1}{2} & \left( if\ x=-1\right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}です。例えば、「\(X\)の値が正である」という事象の確率は、\begin{equation*}f_{X}\left( 1\right) =\frac{1}{2}
\end{equation*}です。他の確率変数\(Y,Z\)についても同様に考えます。
周辺確率質量関数の非負性
周辺確率質量関数は非負の実数を値としてとります。特に、確率変数の値域に属さない値に対して、周辺確率質量関数はゼロを値として定めます。
\end{equation*}が成り立つ。特に、\(x_{1}\not\in X_{1}\left( \Omega \right) \)である場合には、\begin{equation*}f_{X_{1}}\left( x_{1}\right) =0
\end{equation*}が成り立つ。
他の確率変数\(X_{2},\cdots ,X_{n}\)の周辺確率質量関数\(f_{X_{2}},\cdots ,f_{X_{n}}\)ついても同様です。
\end{equation*}であるとともに、\(\left(X,Y,Z\right) \)の同時確率質量関数\(f_{XYZ}:\mathbb{R} ^{3}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{equation*}f_{XYZ}\left( x,y,z\right) =\left\{
\begin{array}{cl}
\frac{1}{8} & \left( if\ \left( x,y,z\right) \in \left( X,Y,Z\right) \left(
\Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めるものとします。確率変数\(X\)の値域は、\begin{equation*}X\left( \Omega \right) =\left\{ 1,-1\right\}
\end{equation*}であるとともに、\(X\)の周辺確率質量関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)がそれぞれの\(x\in \mathbb{R} \)に対して定める値は、\begin{equation*}f_{X}\left( x\right) =\left\{
\begin{array}{cl}
\frac{1}{2} & \left( if\ x=1\right) \\
\frac{1}{2} & \left( if\ x=-1\right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}です。任意の\(x\in X\)に対して、\begin{equation*}f_{X}\left( x\right) \geq 0
\end{equation*}が成立しています。他の確率変数\(Y,Z\)についても同様です。
周辺確率質量関数の値の総和
確率変数がとり得るそれぞれの値に対して周辺確率質量関数が定める値の総和をとると\(1\)になります。
\end{equation*}が成り立つ。
他の確率変数\(X_{2},\cdots ,X_{n}\)の周辺確率質量関数\(f_{X_{2}},\cdots ,f_{X_{n}}\)ついても同様です。
\end{equation*}であるとともに、\(\left(X,Y,Z\right) \)の同時確率質量関数\(f_{XYZ}:\mathbb{R} ^{3}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{equation*}f_{XYZ}\left( x,y,z\right) =\left\{
\begin{array}{cl}
\frac{1}{8} & \left( if\ \left( x,y,z\right) \in \left( X,Y,Z\right) \left(
\Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めるものとします。確率変数\(X\)の値域は、\begin{equation*}X\left( \Omega \right) =\left\{ 1,-1\right\}
\end{equation*}であるとともに、\(X\)の周辺確率質量関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)がそれぞれの\(x\in \mathbb{R} \)に対して定める値は、\begin{equation*}f_{X}\left( x\right) =\left\{
\begin{array}{cl}
\frac{1}{2} & \left( if\ x=1\right) \\
\frac{1}{2} & \left( if\ x=-1\right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}です。このとき、\begin{eqnarray*}
\sum_{x\in X\left( \Omega \right) }f_{X}\left( x\right) &=&f_{X}\left(
1\right) +f_{X}\left( -1\right) \\
&=&\frac{1}{2}+\frac{1}{2} \\
&=&1
\end{eqnarray*}が成り立ちます。他の確率変数\(Y,Z\)についても同様です。
確率質量関数としての周辺確率質量関数
非負性を満たすとともに、値の総和が\(1\)であるような1変数関数を確率質量関数と定義しました。先に示した諸命題より、周辺確率質量関数もまた非負性を満たすとともに、値の総和が\(1\)になります。つまり、確率変数\(X_{1}\)の周辺確率質量関数\(f_{X_{1}}:\mathbb{R} \rightarrow \mathbb{R} \)は以下の2つの条件\begin{eqnarray*}&&\left( a\right) \ \forall x_{1}\in \mathbb{R} :f_{X_{1}}\left( x_{1}\right) \geq 0 \\
&&\left( b\right) \ \sum_{x_{1}\in X_{1}\left( \Omega \right)
}f_{X_{1}}\left( x_{1}\right) =1
\end{eqnarray*}を満たすということです。他の確率変数\(X_{2},\cdots ,X_{n}\)の周辺確率質量関数\(f_{X_{2}},\cdots ,f_{X_{n}}\)ついても同様です。したがって、周辺確率質量関数もまた個々の確率変数に関する確率質量関数であることが明らかになりました。
プレミアム会員専用コンテンツです
【ログイン】【会員登録】