連続型確率変数の確率密度関数

絶対連続型確率変数の確率密度関数

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて写像\begin{equation*}X:\Omega \rightarrow \mathbb{R} \end{equation*}が与えられているものとします。その上で、もとの可測空間\(\left( \Omega ,\mathcal{F}\right) \)において標本点\(\omega \in \Omega \)が実現した場合、その事実をもう一方の可測空間\(\left( \mathbb{R} ,\mathcal{B}\left( \mathbb{R} \right) \right) \)上に存在する実数\(X\left( \omega \right) \in \mathbb{R} \)に変換して表現する状況を想定します。ただし、\(\mathcal{B}\left( \mathbb{R} \right) \)は\(\mathbb{R} \)上のボレル集合族です。加えて、\(X\)は絶対連続型の確率変数であるものとします。

写像\(X:\Omega \rightarrow \mathbb{R} \)が確率変数であることは、以下の条件\begin{equation*}\forall B\in \mathcal{B}\left( \mathbb{R} \right) :\left\{ \omega \in \Omega \ |\ X\left( \omega \right) \in B\right\}
\in \mathcal{F}
\end{equation*}を満たすこととして定義されます。つまり、変換後の可測空間\(\left( \mathbb{R} ,\mathcal{B}\left( \mathbb{R} \right) \right) \)において可測な集合、すなわちボレル集合\(B\in \mathcal{B}\left( \mathbb{R} \right) \)を任意に選んだとき、「\(X\)の実現値が集合\(B\)に属する」という事象がもとの可測空間\(\left( \Omega ,\mathcal{F}\right) \)において可測になることが保証される場合には、\(X\)を確率変数と呼ぶということです。以上の条件が満たされる場合、確率測度\(P:\mathcal{F}\rightarrow \mathbb{R} \)はそれぞれのボレル集合\(B\in \mathcal{B}\left( \mathbb{R} \right) \)に対して、「確率変数\(X\)の実現値が\(B\)に属する」という事象の確率\begin{equation*}P\left( X\in B\right) =P\left( \left\{ \omega \in \Omega \ |\ X\left( \omega
\right) \in B\right\} \right)
\end{equation*}を必ず特定できます。

写像\(X:\Omega \rightarrow \mathbb{R} \)が確率変数であるために満たすべき先の条件\begin{equation*}\forall B\in \mathcal{B}\left( \mathbb{R} \right) :\left\{ \omega \in \Omega \ |\ X\left( \omega \right) \in B\right\}
\in \mathcal{F}
\end{equation*}は、以下の条件\begin{equation*}
\forall x\in \mathbb{R} :\left\{ \omega \in \Omega \ |\ X\left( \omega \right) \leq x\right\} \in
\mathcal{F}
\end{equation*}と必要十分です。つまり、実数\(x\in \mathbb{R} \)を任意に選んだとき、「\(X\)の実現値が\(x\)以下になる」という事象がもとの可測空間\(\left( \Omega ,\mathcal{F}\right) \)において可測になることは、写像\(X\)が確率変数であるための必要十分条件です。以上の条件が満たされる場合、確率測度\(P:\mathcal{F}\rightarrow \mathbb{R} \)はそれぞれの実数\(x\in \mathbb{R} \)に対して、「確率変数\(X\)の実現値が\(x\)以下になる」という事象の確率\begin{equation*}P\left( X\leq x\right) =P\left( \left\{ \omega \in \Omega \ |\ X\left(
\omega \right) \leq x\right\} \right)
\end{equation*}を必ず特定できます。このような事情を踏まえると、それぞれの実数\(x\in \mathbb{R} \)に対して、\begin{equation*}F_{X}\left( x\right) =P\left( X\leq x\right)
\end{equation*}を値として定める関数\begin{equation*}
F_{X}:\mathbb{R} \rightarrow \mathbb{R} \end{equation*}が定義可能です。これを確率変数\(X\)の分布関数（distribution function）と呼びます。

確率変数\(X\)が絶対連続型であることとは、その分布関数\(F_{X}\)が\(\mathbb{R} \)上の絶対連続関数であることを意味します。ただし、分布関数\(F_{X}\)が絶対連続関数であることと、以下の条件\begin{equation*}\forall B\in \mathcal{B}\left( \mathbb{R} \right) :P\left( X\in B\right) =\int_{B}f_{X}\left( x\right) dx
\end{equation*}を満たすルベーグ積分可能な関数\begin{equation*}
f_{X}:\mathbb{R} \rightarrow \mathbb{R} _{+}
\end{equation*}が存在することは必要十分です。その上で、この関数\(f_{X}\)を確率変数\(X\)の確率密度関数（probability density function）と呼びます。関数\(f_{X}\)が確率変数\(X\)の確率密度関数であることと、\begin{equation*}\forall x\in \mathbb{R} :F_{X}\left( x\right) =\int_{-\infty }^{x}f_{X}\left( t\right) dt
\end{equation*}が成り立つことは必要十分です。

例（確率密度関数）

絶対連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)の確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} _{+}\)が与えられているものとします。\(a<b\)を満たす実数\(a,b\in \mathbb{R} \)を端点とする有界な閉区間\(\left[ a,b\right] \subset \mathbb{R} \)はボレル集合であるため、すなわち、\begin{equation*}\left[ a,b\right] \in \mathcal{B}\left( \mathbb{R} \right)
\end{equation*}が成り立つため、\begin{eqnarray*}
P\left( a\leq X\leq b\right) &=&P\left( X\in \left[ a,b\right] \right) \\
&=&\int_{a}^{b}f_{X}\left( x\right) dx\quad \because f_{X}\text{の定義}
\end{eqnarray*}が成り立ちます。つまり、絶対連続型の確率変数\(X\)が\(a\)以上\(b\)以下の値をとる確率は、確率密度関数\(f_{X}\)を区間\(\left[ a,b\right] \)上で積分して得られる値であり、これは下図のグレーの領域の面積に相当します。

例（確率密度関数）

絶対連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)の確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} _{+}\)が与えられているものとします。実数\(a\in \mathbb{R} \)を端点とする無限閉区間\([a,+\infty )\subset \mathbb{R} \)はボレル集合であるため、すなわち、\begin{equation*}\lbrack a,+\infty )\in \mathcal{B}\left( \mathbb{R} \right)
\end{equation*}が成り立つため、\begin{eqnarray*}
P\left( a\leq X\right) &=&P\left( X\in \lbrack a,+\infty )\right) \\
&=&\int_{a}^{+\infty }f_{X}\left( x\right) dx\quad \because f_{X}\text{の定義}
\end{eqnarray*}が成り立ちます。つまり、絶対連続型の確率変数\(X\)が\(a\)以上の値をとる確率は、確率密度関数\(f_{X}\)を区間\([a,+\infty )\)上で積分して得られる値であり、これは下図のグレーの領域の面積に相当します。

例（確率密度関数）

絶対連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)の確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} _{+}\)が与えられているものとします。実数\(a\in \mathbb{R} \)を端点とする無限閉区間\((-\infty ,a]\subset \mathbb{R} \)はボレル集合であるため、すなわち、\begin{equation*}(-\infty ,a]\in \mathcal{B}\left( \mathbb{R} \right)
\end{equation*}が成り立つため、\begin{eqnarray*}
P\left( X\leq a\right) &=&P\left( X\in (-\infty ,a]\right) \\
&=&\int_{-\infty }^{a}f_{X}\left( x\right) dx\quad \because f_{X}\text{の定義}
\end{eqnarray*}が成り立ちます。つまり、絶対連続型の確率変数\(X\)が\(a\)以下の値をとる確率は、確率密度関数\(f_{X}\)を区間\((-\infty ,a]\)上で積分して得られる値であり、これは下図のグレーの領域の面積に相当します。

例（確率密度関数）

絶対連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)の確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} _{+}\)が与えられているものとします。実数\(a\in \mathbb{R} \)だけを要素とする1点集合\(\left\{ a\right\} \subset \mathbb{R} \)はボレル集合であるため、すなわち、\begin{equation*}\left\{ a\right\} \in \mathcal{B}\left( \mathbb{R} \right)
\end{equation*}が成り立つため、\begin{eqnarray*}
P\left( X=a\right) &=&P\left( X\in \left\{ a\right\} \right) \\
&=&\int_{\left\{ a\right\} }f_{X}\left( x\right) dx\quad \because f_{X}\text{の定義} \\
&=&0\quad \because \left\{ a\right\} \text{は零集合}
\end{eqnarray*}が成り立ちます。つまり、絶対連続型の確率変数\(X\)が特定の値\(a\)をとる確率はゼロです。この点において絶対連続型の確率変数は離散型の確率変数と異なります。ただし、以上の事実は「絶対連続型の確率変数\(X\)の値が値\(a\)と一致する」という事象が「空事象」であることを意味するわけではありません。\(X\)の値が\(a\)と一致する確率は下図の線分の面積として表現されますが、線分は面積をもたないため、その値は\(0\)になります。ただ、これは線分が存在しないことを意味するわけではありません。

分布関数から確率密度関数を導く方法

絶対連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)が与えられたとき、その分布関数\(F_{X}:\mathbb{R} \rightarrow \mathbb{R} \)と確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} _{+}\)の間には以下の関係\begin{equation*}\forall x\in \mathbb{R} :F_{X}\left( x\right) =\int_{-\infty }^{x}f_{X}\left( t\right) dt
\end{equation*}が成り立ちます。つまり、分布関数\(F_{X}\)が定義域上の点\(x\)に対して定める値は、確率密度関数\(f_{X}\)を無限閉区間\((-\infty ,x]\)上で積分することにより得られます。確率密度関数\(f_{X}\)が与えられれば、そこから分布関数\(F_{X}\)を導くことができるということです。逆に、分布関数\(F_{X}\)から確率密度関数\(f_{X}\)を導くことはできるでしょうか。

連続型の確率変数\(X\)の分布関数\(F_{X}\)は絶対連続関数であるため、\(F_{X}\)はほとんどいたるところで微分可能です。つまり、零集合\(A\subset \mathbb{R} \)が存在して、\(F_{X}\)は\(\mathbb{R} \backslash A\)上において微分可能になります。このような事情を踏まえると、それぞれの\(x\in \mathbb{R} \)に対して、\begin{equation*}f_{X}\left( x\right) =\left\{
\begin{array}{cl}
\frac{dF_{X}\left( x\right) }{dx} & \left( if\ x\in \mathbb{R} \backslash A\right) \\
0 & \left( if\ x\in A\right)
\end{array}\right.
\end{equation*}を値として定める関数\begin{equation*}
f_{X}:\mathbb{R} \rightarrow \mathbb{R} _{+}
\end{equation*}が定義可能ですが、この関数\(f_{X}\)は\(X\)の確率密度関数になることが保証されます。

確率密度関数の非負性

確率密度関数は非負の実数を値としてとります。

確率密度関数の全区間上での積分

絶対連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)に関しては、\begin{equation*}\forall B\in \mathcal{B}\left( \mathbb{R} \right) :P\left( X\in B\right) =\int_{B}f_{X}\left( x\right) dx
\end{equation*}が成り立ちますが、全区間\(\mathbb{R} \)はボレル集合であるため、すなわち、\begin{equation*}\mathbb{R} \in \mathcal{B}\left( \mathbb{R} \right) \end{equation*}が成り立つため、\begin{equation*}
P\left( X\in \mathbb{R} \right) =\int_{\mathbb{R} }f_{X}\left( x\right) dx
\end{equation*}すなわち、\begin{equation*}
P\left( -\infty <X<+\infty \right) =\int_{-\infty }^{+\infty }f_{X}\left(
x\right) dx
\end{equation*}が成り立ちますが、その値は、\begin{equation*}
\int_{-\infty }^{+\infty }f_{X}\left( x\right) dx=1
\end{equation*}になることが保証されます。つまり、確率密度関数を全区間上で積分した結果は必ず\(1\)になります。

確率密度関数の特徴づけ

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて絶対連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)が与えられた場合、その確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)は非負値をとるとともに、全区間上で積分すると\(1\)になることが明らかになりました。逆に、関数\begin{equation*}f:\mathbb{R} \rightarrow \mathbb{R} \end{equation*}が以上の性質を満たす場合、すなわち、以下の条件\begin{eqnarray*}
&&\left( a\right) \ \forall x\in \mathbb{R} :f\left( x\right) \geq 0 \\
&&\left( b\right) \ \int_{-\infty }^{+\infty }f\left( x\right) dx=1
\end{eqnarray*}がともに成り立つ場合には、この関数は何らかの絶対連続型確率変数の確率密度関数になることが保証されます。つまり、以上の条件を満たす関数\(f\)が与えられた場合、それに対して、何らかの確率空間\(\left( \Omega ,\mathcal{F},P\right) \)において定義された何らかの絶対連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)が、\begin{equation*}f=f_{X}
\end{equation*}を満たすということです。

絶対連続型確率変数の確率密度関数は非負値をとるとともに、全区間上で積分すると\(1\)になることが明らかになりました。逆に、上の命題より、同様の性質を満たす関数は何らかの絶対連続型確率変数確率密度関数です。このような事情を踏まえると、以下の性質\begin{eqnarray*}&&\left( a\right) \ \forall x\in \mathbb{R} :f\left( x\right) \geq 0 \\
&&\left( b\right) \ \int_{-\infty }^{+\infty }f\left( x\right) dx=1
\end{eqnarray*}を満たすルベーグ積分可能な関数\(f:\mathbb{R} \rightarrow \mathbb{R} \)として確率密度関数の概念を定義することも可能です。

以上の命題を利用することにより、非負値をとるとともにルベーグ積分可能な関数が与えられれば、そこから確率密度関数を生成することができます。具体的には以下の通りです。

関数\(g:\mathbb{R} \rightarrow \mathbb{R} \)はルベーグ積分可能であるとともに、以下の性質\begin{eqnarray*}&&\left( a\right) \ \forall x\in \mathbb{R} :g\left( x\right) \geq 0 \\
&&\left( b\right) \ \int_{-\infty }^{+\infty }g\left( x\right) dx\in \mathbb{R} _{++}
\end{eqnarray*}を満たすものとします。つまり、\(g\)は非負値をとるとともに、\(g\)を全区間上で積分すれば有限かつ正の実数になるということです。\begin{equation*}I=\int_{-\infty }^{+\infty }g\left( x\right) dx
\end{equation*}とおいた上で、それぞれの\(x\in \mathbb{R} \)に対して、\begin{equation*}f\left( x\right) =\frac{g\left( x\right) }{I}
\end{equation*}を定める関数\(g:\mathbb{R} \rightarrow \mathbb{R} \)を定義します。\(x\in \mathbb{R} \)を任意に選んだとき、\begin{eqnarray*}f\left( x\right) &=&\frac{g\left( x\right) }{I}\quad \because f\text{の定義} \\
&\geq &0\quad \because \left( a\right) ,\left( b\right)
\end{eqnarray*}が成り立つため\(f\)は非負値をとります。さらに、\begin{eqnarray*}\int_{-\infty }^{+\infty }g\left( x\right) dx &=&\int_{-\infty }^{+\infty }\frac{g\left( x\right) }{I}dx\quad \because f\text{の定義}
\\
&=&\frac{1}{I}\int_{-\infty }^{+\infty }g\left( x\right) dx\quad \because
\left( b\right) \\
&=&\frac{1}{I}\cdot I \\
&=&1
\end{eqnarray*}が成り立ちます。したがって、先の命題より、\(f\)は何らかの絶対連続型確率変数\(X\)の確率密度関数です。

演習問題