条件付き確率分布
ある試行に関する確率空間\((\Omega ,\mathcal{F},P)\)が与えられているとき、その試行によって事象\(A\)が起こるかどうかを事前に観察できないものの、何らかの事情により、別の事象\(B\in \mathcal{F}\)が起きたことが観察された場合（もしくは、事象\(B\)が起きているものと仮定する場合）に事象\(A\)が起こる確率を\(P\left( A\right) \)と評価したのでは、事象\(B\)が起きているという追加的な情報を活用できておらず望ましくありません。このような事情を踏まえた上で、2つの事象\(A,B\in \mathcal{F}\)について、事象\(B\)が起きたという条件（\(P\left( B\right) >0\)）のもとでの事象\(A\)の条件付き確率を、\begin{equation*}P\left( A|B\right) =\frac{P\left( A\cap B\right) }{P\left( B\right) }
\end{equation*}と定義しました。以上を踏まえた上で、確率変数に関する条件付き確率を定義します。
確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて離散型の同時確率変数\(\left( X,Y\right) :\Omega\rightarrow \mathbb{R} ^{2}\)が与えられている場合、一方の確率変数\(Y:\Omega \rightarrow \mathbb{R} \)の値が集合\(Y\subset \mathbb{R} \)に属するという条件のもとでもう一方の確率変数\(X:\Omega \rightarrow \mathbb{R} \)の値が集合\(X\subset \mathbb{R} \)に属する条件付き確率\begin{equation*}P\left( X\in A|Y\in B\right)
\end{equation*}をどのように評価すればよいでしょうか。
2つの集合\(A,B\subset \mathbb{R} \)を任意に選んだとき、「確率変数\(X\)の値が\(A\)に属する」という事象は、\begin{equation*}\left\{ \omega \in \Omega \ |\ X\left( \omega \right) \in A\right\}
\end{equation*}であり、「確率変数\(Y\)の値が\(B\)に属する」という事象は、\begin{equation*}\left\{ \omega \in \Omega \ |\ Y\left( \omega \right) \in B\right\}
\end{equation*}です。以上の2つの積事象は「確率変数\(X\)の値が\(A\)に属するとともに確率変数\(Y\)の値が\(B\)に属する」という事象ですが、これは、\begin{equation*}\left\{ \omega \in \Omega \ |\ X\left( \omega \right) \in A\wedge Y\left(
\omega \right) \in B\right\}
\end{equation*}すなわち、\begin{equation*}
\left\{ \omega \in \Omega \ |\ \left( X,Y\right) \left( \omega \right) \in
A\times B\right\}
\end{equation*}です。したがって、確率変数\(Y\)の値が\(B\)に属する条件のもとで確率変数\(X\)の値が\(A\)に属する条件付き確率は、\begin{eqnarray*}P\left( X\in A|Y\in B\right) &=&\frac{P\left( \left\{ \omega \in \Omega \
|\ \left( X,Y\right) \left( \omega \right) \in A\times B\right\} \right) }{P\left( \left\{ \omega \in \Omega \ |\ Y\left( \omega \right) \in B\right\}
\right) }\quad \because \text{条件付き確率の定義} \\
&=&\frac{P\left( \left( X,Y\right) \in A\times B\right) }{P\left( Y\in
B\right) }
\end{eqnarray*}となります。ただし、\begin{equation*}
P\left( Y\in B\right) >0
\end{equation*}です。
同様に考えると、確率変数\(Y\)の値が\(y\)であるという条件のもとで確率変数\(X\)の値が\(A\)に属する条件付き確率は、\begin{eqnarray*}P\left( X\in A|Y=y\right) &=&\frac{P\left( \left\{ \omega \in \Omega \ |\
\left( X,Y\right) \left( \omega \right) \in A\times \left\{ y\right\}
\right\} \right) }{P\left( \left\{ \omega \in \Omega \ |\ Y\left( \omega
\right) \in \left\{ y\right\} \right\} \right) }\quad \because \text{条件付き確率の定義} \\
&=&\frac{P\left( \left( X,Y\right) \in A\times \left\{ y\right\} \right) }{P\left( Y=y\right) }
\end{eqnarray*}となります。ただし、\begin{equation*}
P\left( Y=y\right) >0
\end{equation*}です。
同様に考えると、確率変数\(Y\)の値が\(B\)に属するという条件のもとで確率変数\(X\)の値が\(x\)である条件付き確率は、\begin{eqnarray*}P\left( X=x|Y\in B\right) &=&\frac{P\left( \left\{ \omega \in \Omega \ |\
\left( X,Y\right) \left( \omega \right) \in \left\{ x\right\} \times
B\right\} \right) }{P\left( \left\{ \omega \in \Omega \ |\ Y\left( \omega
\right) \in B\right\} \right) }\quad \because \text{条件付き確率の定義} \\
&=&\frac{P\left( \left( X,Y\right) \in \left\{ x\right\} \times B\right) }{P\left( Y\in B\right) }
\end{eqnarray*}となります。ただし、\begin{equation*}
P\left( Y\in B\right) >0
\end{equation*}です。
同様に考えると、確率変数\(Y\)の値が\(y\)であるという条件のもとで確率変数\(X\)の値が\(x\)である条件付き確率は、\begin{eqnarray*}P\left( X=x|Y=y\right) &=&\frac{P\left( \left\{ \omega \in \Omega \ |\
\left( X,Y\right) \left( \omega \right) \in \left\{ x\right\} \times \left\{
y\right\} \right\} \right) }{P\left( \left\{ \omega \in \Omega \ |\ Y\left(
\omega \right) \in \left\{ y\right\} \right\} \right) }\quad \because \text{条件付き確率の定義} \\
&=&\frac{P\left( \left( X,Y\right) \in \left\{ x\right\} \times \left\{
y\right\} \right) }{P\left( Y=y\right) }
\end{eqnarray*}となります。ただし、\begin{equation*}
P\left( Y=y\right) >0
\end{equation*}です。
離散型確率変数の条件付き確率質量関数
繰り返しになりますが、離散型の同時確率変数\(\left( X,Y\right) \)が与えられたとき、確率変数\(Y\)の値が\(y\)という条件のもとで確率変数\(X\)の値が\(x\)である条件付き確率は、\begin{equation*}P\left( X=x|Y=y\right) =\frac{P\left( \left( X,Y\right) \in \left\{
x\right\} \times \left\{ y\right\} \right) }{P\left( Y=y\right) }
\end{equation*}となります。そこで、\begin{equation*}
P\left( Y=y\right) >0
\end{equation*}を満たす\(y\in \mathbb{R} \)を任意に選んだ上で、それぞれの\(x\in \mathbb{R} \)に対して、\begin{equation*}f_{X|Y=y}\left( x\right) =P\left( X=x|Y=y\right)
\end{equation*}を定める関数\begin{equation*}
f_{X|Y=y}:\mathbb{R} \rightarrow \mathbb{R} \end{equation*}を定義し、これを\(Y=y\)のもとでの\(X\)の条件付き確率質量関数（conditional probability mass function of \(X\) given \(Y=y\)）や条件付き確率関数（conditional probability function）などと呼びます。
同時確率変数\(\left( X,Y\right) \)の同時確率質量関数\(f_{XY}\)が与えられている場合、そこから条件付き確率質量関数を以下の要領で特定できます。
\end{equation*}を満たす\(y\in \mathbb{R} \)を任意に選んだとき、\(Y=y\)のもとでの\(X\)の条件付き確率質量関数\(f_{X|Y=y}:\mathbb{R} \rightarrow \mathbb{R} \)が存在するとともに、これはそれぞれの\(x\in \mathbb{R} \)に対して、\begin{equation*}f_{X|Y=y}\left( x\right) =\frac{f_{XY}\left( x,y\right) }{f_{Y}\left(
y\right) }
\end{equation*}を定める。
同時確率変数\(\left( X,Y\right) \)の同時確率質量関数\(f_{XY}\)が与えられれば、確率変数\(Y\)の周辺確率質量関数\(f_{Y}\)が存在するとともに、これはそれぞれの\(y\in \mathbb{R} \)に対して、\begin{equation*}f_{Y}\left( y\right) =\left\{
\begin{array}{cc}
\sum\limits_{\left( x_{i},y_{i}\right) \in \left( X,Y\right) \left( \Omega
\right) \ s.t.\ y_{i}=y}f_{XY}\left( x_{i},y_{i}\right) & \left( if\ y\in
Y\left( \Omega \right) \right) \\
0 & \left( if\ y\not\in Y\left( \Omega \right) \right)
\end{array}\right.
\end{equation*}を定めます。以上の事実と先の命題を利用すれば、条件付き確率質量関数\(f_{X|Y=y}\)を特定できます。
2,0\right) ,\left( 0,0\right) \right\}
\end{equation*}であるとともに、\(\left(X,Y\right) \)の同時確率密度関数\(f_{XY}:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f_{XY}\left( x,y\right) =\left\{
\begin{array}{cl}
\frac{1}{3} & \left( if\ \left( x,y\right) \in \left( X,Y\right) \left(
\Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めるものとします。確率変数\(X,Y\)の値域は、\begin{eqnarray*}X\left( \Omega \right) &=&\left\{ 0,1,2\right\} \\
Y\left( \Omega \right) &=&\left\{ 0,1\right\}
\end{eqnarray*}です。そこで、\(Y=0\)のもとでの\(X\)の条件付き確率質量関数\(f_{X|Y=0}:\mathbb{R} \rightarrow \mathbb{R} \)を求めます。\(Y\)の周辺確率関数\(f_{Y}:\mathbb{R} \rightarrow \mathbb{R} \)は、\begin{eqnarray*}f_{Y}\left( 0\right) &=&f_{XY}\left( 2,0\right) +f_{XY}\left( 0,0\right) \\
&=&\frac{1}{3}+\frac{1}{3} \\
&=&\frac{2}{3} \\
&\not=&0
\end{eqnarray*}を満たすため、\(f_{X|Y=0}\)が存在するとともに、これがそれぞれの\(x\in \mathbb{R} \)に対して定める値は、\begin{eqnarray*}f_{X|Y=0}\left( 0\right) &=&\frac{f_{XY}\left( 0,0\right) }{f_{Y}\left(
0\right) } \\
&=&\frac{\frac{1}{3}}{\frac{2}{3}} \\
&=&\frac{1}{2}
\end{eqnarray*}であり、\begin{eqnarray*}
f_{X|Y=0}\left( 1\right) &=&\frac{f_{XY}\left( 1,0\right) }{f_{Y}\left(
0\right) } \\
&=&\frac{0}{\frac{2}{3}} \\
&=&0
\end{eqnarray*}であり、\begin{eqnarray*}
f_{X|Y=0}\left( 2\right) &=&\frac{f_{XY}\left( 2,0\right) }{f_{Y}\left(
0\right) } \\
&=&\frac{\frac{1}{3}}{\frac{2}{3}} \\
&=&\frac{1}{2}
\end{eqnarray*}であり、それ以外の任意の\(x\in \mathbb{R} \)について、\begin{eqnarray*}f_{X|Y=0}\left( x\right) &=&\frac{f_{XY}\left( x,0\right) }{f_{Y}\left(
0\right) } \\
&=&\frac{0}{\frac{2}{3}} \\
&=&0
\end{eqnarray*}となります。結果をまとめると、\begin{equation*}
f_{X|Y=0}\left( x\right) =\left\{
\begin{array}{cl}
\frac{1}{2} & \left( if\ x=0\right) \\
0 & \left( if\ x=1\right) \\
\frac{1}{2} & \left( if\ x=2\right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}となります。
もう一方の確率変数\(Y\)についても同様の命題が成り立ちます。証明は先の命題と同様です。
\end{equation*}を満たす\(x\in \mathbb{R} \)を任意に選んだとき、\(X=x\)のもとでの\(Y\)の条件付き確率質量関数\(f_{Y|X=x}:\mathbb{R} \rightarrow \mathbb{R} \)が存在するとともに、これはそれぞれの\(y\in \mathbb{R} \)に対して、\begin{equation*}f_{Y|X=x}\left( y\right) =\frac{f_{XY}\left( x,y\right) }{f_{X}\left(
x\right) }
\end{equation*}を定める。
同時確率変数\(\left( X,Y\right) \)の同時確率質量関数\(f_{XY}\)が与えられれば、確率変数\(X\)の周辺確率質量関数\(f_{X}\)が存在するとともに、これはそれぞれの\(x\in \mathbb{R} \)に対して、\begin{equation*}f_{X}\left( x\right) =\left\{
\begin{array}{cc}
\sum\limits_{\left( x_{i},y_{i}\right) \in \left( X,Y\right) \left( \Omega
\right) \ s.t.\ x_{i}=x}f_{XY}\left( x_{i},y_{i}\right) & \left( if\ x\in
X\left( \Omega \right) \right) \\
0 & \left( if\ X\not\in X\left( \Omega \right) \right)
\end{array}\right.
\end{equation*}を定めます。以上の事実と先の命題を利用すれば、条件付き確率質量関数\(f_{Y|X=x}\)を特定できます。
条件付き確率分布としての条件付き確率質量関数
\(Y=y\)のもとでの\(X\)の条件付き確率質量関数\(f_{X|Y=y}:\mathbb{R} \rightarrow \mathbb{R} \)が与えられている場合、\(Y\)の値が\(y\)という条件のもとで\(X\)の値が\(x\)である確率に関して、\begin{equation*}P\left( X=x|Y=y\right) =f_{X|Y=y}\left( x\right)
\end{equation*}という関係が成り立ちます。以上を踏まえると、\(Y\)の値が\(y\)という条件のもとで\(X\)の値が集合\(A\subset \mathbb{R} \)に属する確率を、\begin{equation*}P\left( X\in A|Y=y\right) =\sum_{x\in A}f_{X|Y=y}\left( x\right)
\end{equation*}という形で表すことができます。つまり、集合\(A\)に属するそれぞれの値\(x\)に対する条件付き確率\(f_{X|Y=y}\left( x\right) \)をとり、それらの総和をとれば\(P\left( X\in A|Y=y\right) \)が得られるということです。ただし、\(A\)が無限可算集合である場合、右辺は無限級数の和です。
\end{equation*}を満たす\(y\in \mathbb{R} \)を任意に選んだとき、\(Y=y\)のもとでの\(X\)の条件付き確率質量関数\(f_{X|Y=y}:\mathbb{R} \rightarrow \mathbb{R} \)が存在するとともに、集合\(A\subset \mathbb{R} \)を任意に選んだとき、\begin{equation*}P\left( X\in A|Y=y\right) =\sum_{x\in A}f_{X|Y=y}\left( x\right)
\end{equation*}が成り立つ。
条件付き確率質量関数\(f_{X|Y=y}\)が与えられれば任意の集合\(A\subset \mathbb{R} \)に対する条件付き確率\(P\left( X\in A|Y=y\right) \)を以上の要領で特定できるため、条件付き確率質量関数\(f_{X|Y=y}\)は\(Y=y\)という条件のもとでの確率変数\(X\)の条件付き確率分布を表現する手段であることが明らかになりました。
2,0\right) ,\left( 0,0\right) \right\}
\end{equation*}であるとともに、\(\left(X,Y\right) \)の同時確率密度関数\(f_{XY}:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f_{XY}\left( x,y\right) =\left\{
\begin{array}{cl}
\frac{1}{3} & \left( if\ \left( x,y\right) \in \left( X,Y\right) \left(
\Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めるものとします。確率変数\(X,Y\)の値域は、\begin{eqnarray*}X\left( \Omega \right) &=&\left\{ 0,1,2\right\} \\
Y\left( \Omega \right) &=&\left\{ 0,1\right\}
\end{eqnarray*}です。先に求めたように、\(Y=0\)のもとでの\(X\)の条件付き確率質量関数\(f_{X|Y=0}:\mathbb{R} \rightarrow \mathbb{R} \)はそれぞれの\(x\in \mathbb{R} \)に対して、\begin{equation*}f_{X|Y=0}\left( x\right) =\left\{
\begin{array}{cl}
\frac{1}{2} & \left( if\ x=0\right) \\
0 & \left( if\ x=1\right) \\
\frac{1}{2} & \left( if\ x=2\right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めます。したがって、「\(Y\)の値が\(0\)という条件のもとで\(X\)の値が偶数である」という事象確率は、\begin{eqnarray*}f_{X|Y=0}\left( 0\right) +f_{X|Y=0}\left( 2\right) &=&\frac{1}{2}+\frac{1}{2} \\
&=&1
\end{eqnarray*}となります。
もう一方の確率変数\(Y\)についても同様の命題が成り立ちます。証明は先の命題と同様です。
\end{equation*}を満たす\(x\in \mathbb{R} \)を任意に選んだとき、\(X=x\)のもとでの\(Y\)の条件付き確率質量関数\(f_{Y|X=x}:\mathbb{R} \rightarrow \mathbb{R} \)が存在するとともに、集合\(B\subset \mathbb{R} \)を任意に選んだとき、\begin{equation*}P\left( Y\in B|X=x\right) =\sum_{y\in B}f_{Y|X=x}\left( y\right)
\end{equation*}が成り立つ。
条件付き確率質量関数\(f_{Y|X=x}\)が与えられれば任意の集合\(B\subset \mathbb{R} \)に対する条件付き確率\(P\left( Y\in B|X=x\right) \)を以上の要領で特定できるため、条件付き確率質量関数\(f_{Y|X=x}\)は\(X=x\)という条件のもとでの確率変数\(Y\)の条件付き確率分布を表現する手段であることが明らかになりました。
条件付き確率質量関数の非負性
条件付き確率質量関数は非負の実数を値としてとります。特に、確率変数の値域に属さない値に対して、条件付き確率質量関数はゼロを値として定めます。
\end{equation*}を満たす\(y\in \mathbb{R} \)を任意に選んだとき、\(Y=y\)のもとでの\(X\)の条件付き確率質量関数\(f_{X|Y=y}:\mathbb{R} \rightarrow \mathbb{R} \)が存在する。このとき、任意の\(x\in \mathbb{R} \)に対して、\begin{equation*}f_{X|Y=y}\left( x\right) \geq 0
\end{equation*}が成り立つ。
2,0\right) ,\left( 0,0\right) \right\}
\end{equation*}であるとともに、\(\left(X,Y\right) \)の同時確率密度関数\(f_{XY}:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f_{XY}\left( x,y\right) =\left\{
\begin{array}{cl}
\frac{1}{3} & \left( if\ \left( x,y\right) \in \left( X,Y\right) \left(
\Omega \right) \right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めるものとします。確率変数\(X,Y\)の値域は、\begin{eqnarray*}X\left( \Omega \right) &=&\left\{ 0,1,2\right\} \\
Y\left( \Omega \right) &=&\left\{ 0,1\right\}
\end{eqnarray*}です。先に求めたように、\(Y=0\)のもとでの\(X\)の条件付き確率質量関数\(f_{X|Y=0}:\mathbb{R} \rightarrow \mathbb{R} \)はそれぞれの\(x\in \mathbb{R} \)に対して、\begin{equation*}f_{X|Y=0}\left( x\right) =\left\{
\begin{array}{cl}
\frac{1}{2} & \left( if\ x=0\right) \\
0 & \left( if\ x=1\right) \\
\frac{1}{2} & \left( if\ x=2\right) \\
0 & \left( otherwise\right)
\end{array}\right.
\end{equation*}を定めます。任意の\(x\in \mathbb{R} \)に対しいて、\begin{equation*}f_{X|Y=0}\left( x\right) \geq 0
\end{equation*}が成立しています。
もう一方の確率変数\(Y\)についても同様の命題が成り立ちます。証明は先の命題と同様です。
\end{equation*}を満たす\(x\in \mathbb{R} \)を任意に選んだとき、\(X=x\)のもとでの\(Y\)の条件付き確率質量関数\(f_{Y|X=x}:\mathbb{R} \rightarrow \mathbb{R} \)が存在する。このとき、任意の\(y\in \mathbb{R} \)に対して、\begin{equation*}f_{Y|X=x}\left( y\right) \geq 0
\end{equation*}が成り立つ。
条件付き確率質量関数の値の総和
確率変数がとり得るそれぞれの値に対して条件付き確率質量関数が定める値の総和をとると\(1\)になります。