可算型確率空間

公理主義的確率論の考え方

公理主義的確率論の舞台は3つの要素から構成されます。1つ目は、試行において起こり得るすべての標本点からなる集合であり、これは標本空間\begin{equation*}
\Omega
\end{equation*}として定式化されます。

事象は標本空間\(\Omega \)の部分集合として定義されますが、確率を記述する際に、確率の測定対象となる事象を定めておく必要があります。そこで、確率空間の2つ目の要素として、確率の測定対象となる事象をすべて集めてできる\(\Omega \)の部分集合族\begin{equation*}\mathcal{F}
\end{equation*}を導入します。つまり、\(A\in \mathcal{F}\)を満たす事象\(A\subset \Omega \)のみを確率の測定対象とするということです。

確率を記述するために残された課題は、事象空間\(\mathcal{F}\)に属するそれぞれの事象に対して、その起こりやすさを特定することです。そこで、確率空間を構成する3つ目の要素として、事象空間に属するそれぞれの事象\(A\in \mathcal{F}\)に対して、それが起こる確率に相当する実数\(P\left(A\right) \in \mathbb{R} \)を1つずつ割り当てる集合関数\begin{equation*}P:\mathcal{F\rightarrow \mathbb{R} }
\end{equation*}を導入します。

公理主義的確率論では、以上の3つの要素から構成される概念\begin{equation*}
\left( \Omega ,\mathcal{F},P\right)
\end{equation*}が満たすべき性質を公理として定めた上で、そこを出発点に議論を行うことになります。

標本空間\(\Omega \)が有限集合である場合には、すなわち、何らかの自然数\(n\in \mathbb{N} \)を用いて、\begin{equation*}\Omega =\left\{ \omega _{1},\cdots ,\omega _{n}\right\}
\end{equation*}と表現できる場合には、事象空間\(\mathcal{F}\)として標本空間のベキ集合\begin{equation*}2^{\Omega }
\end{equation*}を採用した上で、集合関数\(P:2^{\Omega }\rightarrow \mathbb{R} \)が確率論の公理\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,\cdots ,n\right\} :P\left(
\left\{ \omega _{i}\right\} \right) \geq 0 \\
&&\left( b\right) \ \sum_{i=1}^{n}P\left( \left\{ \omega _{i}\right\}
\right) =1 \\
&&\left( c\right) \ \forall A\in 2^{\Omega }:P\left( A\right) =\sum_{\omega
_{i}\in A}P\left( \left\{ \omega _{i}\right\} \right)
\end{eqnarray*}を満たすことを公理として定めました。条件\(\left( a\right) \)は、根元事象の確率は非負の実数であることを意味し、条件\(\left( b\right) \)は、すべての根元事象の確率の総和が\(1\)であることを意味し、条件\(\left(c\right) \)は、事象の確率はそこに含まれるすべての根元事象の確率の総和と一致することを意味します。確率論の公理を満たす集合関数\(P\)を確率測度と呼んだ上で、標本空間\(\Omega \)と確率空間\(2^{\Omega }\)および確率測度\(P\)の組\(\left( \Omega ,2^{\Omega },P\right) \)を確率空間と呼びました。では、標本空間\(\Omega \)が可算集合である場合、確率空間をどのように定義すべきでしょうか。

標本空間が可算集合である場合の確率空間

標本空間\(\Omega \)が可算集合\begin{equation*}\Omega =\left\{ \omega _{1},\omega _{2},\cdots \right\}
\end{equation*}であるものとします。ただし、\(\omega _{i}\ \left( i=1,2\cdots\right) \)は標本点です。標本空間\(\Omega \)が可算集合である場合にも、事象空間\(\mathcal{F}\)として標本空間のベキ集合\begin{equation*}2^{\Omega }
\end{equation*}を採用できます。つまり、任意の事象を確率の測定対象に含めても問題は生じないということです。では、それぞれの事象\(A\in 2^{\Omega }\)に対して、それが起こる確率に相当する実数\(P\left( A\right) \in \mathbb{R} \)を1つずつ割り当てる集合関数\begin{equation*}P:2^{\Omega }\rightarrow \mathbb{R} \end{equation*}に対してどのような公理を設定すべきでしょうか。以下で順番に解説します。

標本点\(\omega _{n}\in \Omega \)を任意に選んだ上で、それだけを要素として持つ根元事象\(\left\{ \omega _{n}\right\} \)を構成します。\(\left\{ \omega_{n}\right\} \in 2^{\Omega }\)であるため、集合関数\(P\)はこの根元事象\(\left\{ \omega _{n}\right\} \)に対しても確率\(P\left( \left\{ \omega _{n}\right\} \right)\in \mathbb{R} \)を付与することが保証されます。以上を踏まえた上で、その値は非負であること、すなわち、\begin{equation*}P\left( \left\{ \omega _{n}\right\} \right) \geq 0
\end{equation*}が成り立つことを1つ目の公理として定めます。つまり、任意の根元事象の確率が非負の実数であることを公理として定めるということです。これを非負性の公理（axiom of non-negativity）と呼びます。これは、標本空間\(\Omega \)が有限集合である場合と同様の公理です。

標本点\(\omega _{n}\in \Omega \)を任意に選んだとき、先の理由により、集合関数\(P\)は根元事象の確率\(P\left( \left\{ \omega _{n}\right\} \right) \in \mathbb{R} \)を定めることが保証されます。標本空間\(\Omega \)は可算集合であるため、すべての根元事象の確率の和\begin{equation}\sum_{n\in \mathbb{N} }P\left( \left\{ \omega _{n}\right\} \right) =P\left( \left\{ \omega
_{1}\right\} \right) +P\left( \left\{ \omega _{2}\right\} \right) +\cdots
\quad \cdots (1)
\end{equation}は可算個の実数の和、すなわち無限級数となります。標本空間\(\Omega \)が有限集合である場合、すべての根元事象の確率の総和が\(1\)であることを公理として定めました。一方、標本空間\(\Omega \)が可算集合である場合、根元事象が可算個存在するため、それらの確率をすべて足し合わせることができません。つまり、無限級数\(\left( 1\right) \)をそのまま計算することはできないということです。以上を踏まえた上で、代替案として、無限級数\(\left( 1\right) \)が\(1\)へ収束すること、すなわち、無限級数の部分和\begin{equation*}S_{N}=\sum_{n=1}^{N}P\left( \left\{ \omega _{n}\right\} \right)
\end{equation*}を一般項とする数列\(\{S_{N}\}\)について、\begin{equation*}\lim\limits_{N\rightarrow \infty }S_{N}=1
\end{equation*}が成り立つこと、すなわち、\begin{equation}
\lim_{N\rightarrow \infty }\left[ \sum_{n=1}^{N}P\left( \left\{ \omega
_{n}\right\} \right) \right] =1 \quad \cdots (2)
\end{equation}が成り立つことを2つ目の公理として定めます。その上で、\(\left(2\right) \)が成り立つことを、\begin{equation*}\sum_{n\in \mathbb{N} }P\left( \left\{ \omega _{n}\right\} \right) =1
\end{equation*}で表記するものと定めます。つまり、すべての根元事象の確率の和に相当する無限級数が\(1\)へ収束することを公理として定めるということです。これを確実性の公理（axiom of certainty）と呼びます。

事象\(A\subset \Omega \)を任意に選んだとき、\(A\in 2^{\Omega }\)であるため、集合関数\(P\)はこの事象\(A\)に対しても確率\(P\left( A\right) \in \mathbb{R} \)を付与することが保証されます。以上を踏まえた上で、事象\(A\)の確率は、その事象\(A\)に含まれるすべての標本点に関する根元事象の確率の総和であること、すなわち、\begin{equation*}P\left( A\right) =\sum_{\omega _{n}\in A}P\left( \left\{ \omega _{n}\right\}
\right)
\end{equation*}が成り立つことを3つ目の公理として定めます。ただし、\(A\)が有限集合である場合、上のように定義される\(P\left( A\right) \)は有限個の実数の和である一方で、\(A\)が可算集合である場合、上のように定義される\(P\left( A\right) \)は無限級数であることに注意してください。いずれにせよ、事象の確率はそこに含まれるすべての根元事象の確率の総和と一致することを公理として定めるということです。これを加法性の公理（axiom of additivity）と呼びます。

標本空間\(\Omega \)が可算集合である場合には、集合関数\(P\)が以上の3つの性質を満たすことを公理として定めます。この3つの性質を総称して確率論の公理（axioms of probability）と呼びます。

確率論の公理の公理を満たす集合関数\(P\)を確率測度（probability measure）や確率関数（probability function）などと呼び、確率測度\(P\)がそれぞれの事象\(A\in 2^{\Omega }\)に対して定める値\(P(A)\in \mathbb{R} \)を\(A\)の確率（probability）と呼びます。さらに、以上のように定義された標本空間\(\Omega \)と確率空間\(2^{\Omega }\)および確率測度\(P\)の組\begin{equation*}\left( \Omega ,2^{\Omega },P\right)
\end{equation*}を確率空間（probability space）と呼びます。

以下が確率空間の具体例です。

確率論の公理の代替的な定義

公理主義のもとで確率について考えるということは、確率論の公理だけを議論の前提として認めることを意味します。つまり、標本空間が可算集合であるような試行および確率に関する命題はいずれも確率論の公理から導かれてはじめて正しいものとして認められるということです。以下では確率論の公理から導かれる基本的な命題をいくつか紹介します。

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられた状況において事象\(A\in 2^{\Omega }\)を任意に選びます。このとき、その確率は、\begin{equation*}P\left( A\right) \geq 0
\end{equation*}を満たすことが確率論の公理から導かれます。つまり、任意の事象の確率は非負の実数です。以上の性質を非負性（nonnegativity）と呼びます。

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、\(\Omega \in 2^{\Omega }\)であるため、確率測度\(P\)は全事象\(\Omega \)に対しても確率\(P\left(\Omega \right) \in \mathbb{R} \)を付与することが保証されます。以上を踏まえた上で、その値が\(1\)であること、すなわち、\begin{equation*}P\left( \Omega \right) =1
\end{equation*}が成り立つことが確率論の公理から導かれます。全事象の確率は\(1\)であるということです。

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、排反な可算個の事象\(\left\{ A_{n}\right\} _{n\in \mathbb{N} }\)を任意に選びます。つまり、\begin{eqnarray*}&&\left( a\right) \ \forall n\in \mathbb{N} :A_{n}\subset \Omega \\
&&\left( b\right) \ \forall m,n\in \mathbb{N} :\left( m\not=n\Rightarrow A_{m}\cap A_{n}=\phi \right)
\end{eqnarray*}をともに満たす集合族\(\left\{ A_{n}\right\} _{n\in \mathbb{N} }\)を任意に選ぶということです。\(\left( a\right) \)より、この事象族の和集合について、\begin{equation*}\bigcup_{n\in \mathbb{N} }A_{n}\in 2^{\Omega }
\end{equation*}が成り立つため、確率測度\(P\)は和事象\(\bigcup_{n\in \mathbb{N} }A_{n}\)に対しても確率\(P\left(\bigcup_{n\in \mathbb{N} }A_{n}\right) \in \mathbb{R} \)を付与することが保証されます。以上を踏まえた上で、\begin{equation}P\left( \bigcup_{n\in \mathbb{N} }A_{n}\right) =\sum_{n\in \mathbb{N} }P\left( A_{n}\right) \quad \cdots (1)
\end{equation}が成り立つこと、すなわち、排反な可算個の事象の和事象の確率は、個々の事象の確率の和に相当する無限級数と一致することが確率論の公理から導かれます。これを\(\sigma \)-加法性（\(\sigma \)-additivity）や可算加法性（countably additivity）などと呼びます。ちなみに、\(\left( 1\right) \)の右辺は可算個の実数の和、すなわち無限級数であるため、これは部分和\begin{equation*}S_{N}=\sum_{n=1}^{N}P\left( A_{n}\right)
\end{equation*}を一般項とする数列\(\{S_{N}\}\)の極限\(\lim\limits_{N\rightarrow \infty }S_{N}\)として定義されます。つまり、\(\left( 1\right) \)を正確に表現すると、\begin{equation*}P\left( \bigcup_{n\in \mathbb{N} }A_{n}\right) =\lim_{N\rightarrow \infty }\left[ \sum_{n=1}^{N}P\left(
A_{n}\right) \right] \end{equation*}となります。\(P\)が実数値関数として定義されている以上、上の等式の右辺が常に有限な実数として定まることを保証する必要がありますが、これは後ほど証明します。

確率論の公理を認める場合、確率測度は非負性と\(\sigma \)-加法性を満たすとともに、全事象の確率が\(1\)になることが明らかになりました。実は、逆に、以上の3つの性質から確率論の公理を導くこともできるため、確率論の公理を以下のように定義することもできます。

空事象の確率

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、\(\phi \in 2^{\Omega }\)ゆえに確率測度\(P\)は空事象\(\phi \)に対してもその確率\(P\left( \phi\right) \)を与えますが、\begin{equation*}P\left( \phi \right) =0
\end{equation*}であることが確率論の公理から導かれます。つまり、空事象の確率はゼロです。

確率測度の有限加法性

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、排反な有限\(n\)個の事象\(\left\{ A_{i}\right\} _{i=1}^{n}\)を任意に選びます。つまり、\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,\cdots ,n\right\} :A_{i}\subset
\Omega \\
&&\left( b\right) \ \forall i,j\in \mathbb{N} :\left( i\not=j\Rightarrow A_{i}\cap A_{j}=\phi \right)
\end{eqnarray*}をともに満たす集合族\(\left\{ A_{i}\right\} _{i=1}^{n}\)を任意に選ぶということです。\(\left( a\right) \)より、この事象族の和集合について、\begin{equation*}\bigcup_{i=1}^{n}A_{i}\in 2^{\Omega }
\end{equation*}が成り立つため、確率測度\(P\)は和事象\(\bigcup_{i=1}^{n}A_{i}\)に対しても確率\(P\left( \bigcup_{i=1}^{n}A_{i}\right) \in \mathbb{R} \)を付与することが保証されます。以上を踏まえた上で、\begin{equation*}P\left( \bigcup_{i=1}^{n}A_{i}\right) =\sum_{i=1}^{n}P\left( A_{i}\right)
\end{equation*}が成り立つことが確率論の公理より導かれます。つまり、有限個の排反事象を任意に選んだとき、それらの和事象の確率は個々の事象の確率の総和と一致するということです。以上の性質を有限加法性（finite additivity）と呼びます。

上の命題において\(n=2\)とおくと以下を得ます。つまり、2つの排反事象を任意に選んだとき、それらの和事象の確率は個々の事象の確率の総和と一致するということです。これを加法性（additivity）と呼びます。

逆に、加法性から有限加法性を導くこともできるため、加法性と有限加法性は必要十分です。

余事象の確率

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、事象\(A\in 2^{\Omega }\)を任意に選ぶと、確率測度\(P\)はその確率\(P\left( A\right) \)を与えます。さらに、\(A^{c}\in 2^{\Omega} \)であるため\(P\)は余事象\(A^{c}\)に対してもその確率\(P\left( A^{c}\right) \)を与えます。以上を踏まえた上で、\begin{equation*}P\left( A^{c}\right) =1-P\left( A\right)
\end{equation*}という関係が成り立つことが確率論の公理から導かれます。つまり、余事象\(A^{c}\)の確率は、全事象\(\Omega \)の確率である\(1\)から事象\(A \)の確率を引くことにより得られます。

事象の確率がとり得る値の範囲

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、事象\(A\in 2^{\Omega }\)を任意に選ぶと、その確率がとり得る値の範囲が、\begin{equation*}0\leq P\left( A\right) \leq 1
\end{equation*}であることが示されます。つまり、任意の事象の確率は\(0\)以上\(1 \)以下の実数です。

部分事象と確率（単調性）

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、\(A\subset B\)を満たす事象\(A,B\in2^{\Omega }\)を任意に選びます。つまり、\(A\)は\(B\)の部分事象であるということです。この場合、\begin{equation*}P\left( A\right) \leq P\left( B\right)
\end{equation*}が成り立つことが示されます。つまり、\(A\)が\(B\)の部分事象である場合、\(A\)の確率は\(B\)の確率以下となります。以上の性質を単調性（monotonicity）と呼びます。

差事象の確率

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、事象\(A,B\in 2^{\Omega }\)を任意に選びます。\(A\backslash B\in 2^{\Omega }\)かつ\(A\cap B\in 2^{\Omega }\)であるため、\(P\)は差事象\(A\backslash B\)や積事象\(A\cap B\)に対しても確率を与えますが、それらの確率の間に、\begin{equation*}P\left( A\backslash B\right) =P\left( A\right) -P\left( A\cap B\right)
\end{equation*}という関係が成り立つことが導かれます。特に、\(B\subset A\)である場合には\(A\cap B=B\)となるため、\begin{equation*}P\left( A\backslash B\right) =P\left( A\right) -P\left( B\right)
\end{equation*}を得ます。

和事象の確率（加法定理）

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、事象\(A,B\in 2^{\Omega }\)を任意に選びます。\(A\)と\(B\)が排反である場合には、確率測度\(P\)の有限加法性より、\begin{equation*}P\left( A\cup B\right) =P\left( A\right) +P\left( B\right)
\end{equation*}が成り立ちます。一方、\(A\)と\(B\)が排反であるとは限らない場合には、\begin{equation*}P\left( A\cup B\right) =P\left( A\right) +P\left( B\right) -P\left( A\cap
B\right)
\end{equation*}が成り立つことが導かれます。つまり、排反であるとは限らない2つの事象の和事象の確率は、個々の事象の確率の和から積事象の確率を引くことにより得られます。これを加法定理（addition theorem）と呼びます。

和事象の確率の範囲（劣加法性）

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、排反であるとは限らない事象\(A,B\in 2^{\Omega }\)を任意に選ぶと、加法定理より、\begin{equation*}P\left( A\cup B\right) =P\left( A\right) +P\left( B\right) -P\left( A\cap
B\right)
\end{equation*}が成り立ちますが、これと確率測度\(P\)の非負性より、\begin{equation*}P\left( A\cup B\right) \leq P\left( A\right) +P\left( B\right)
\end{equation*}が導かれます。つまり、排反であるとは限らない2つの事象の和事象の確率は、個々の事象の確率の和以下になります。これを劣加法性（subadditivity）と呼びます。

劣加法性は有限集合族に関しても拡張可能です。つまり、有限事象列\(\left\{ A_{i}\right\} _{i=1}^{m}\)を任意に選んだとき、\begin{equation*}P\left( \bigcup_{i=1}^{m}A_{i}\right) \leq \sum_{i=1}^{m}P\left( A_{i}\right)
\end{equation*}が成り立つということです。これを有限劣加法性（finite subadditivity）と呼びます。逆に、有限劣加法性において\(m=2\)とすれば劣加法性が導かれるため、有限劣加法性と劣加法性は必要十分です。

劣加法性は可算集合族に関しても拡張可能です。つまり、可算事象列\(\left\{ A_{n}\right\} _{n\in \mathbb{N} }\)を任意に選んだとき、\begin{equation*}P\left( \bigcup_{n\in \mathbb{N} }A_{n}\right) \leq \sum_{n\in \mathbb{N} }P\left( A_{n}\right)
\end{equation*}が成り立つということです。これを\(\sigma \)-劣加法性（\(\sigma \)-劣加法性）と呼びます。

積事象の確率の範囲（ボンフェローニの不等式）

可算な標本空間に関する確率空間\(\left( \Omega ,2^{\Omega},P\right) \)が与えられたとき、排反であるとは限らない事象\(A,B\in 2^{\Omega }\)を任意に選ぶと、それらの積事象の確率に関して、\begin{equation*}P\left( A\cap B\right) \geq P\left( A\right) +P\left( B\right) -1
\end{equation*}が成り立つことが導かれます。これをボンフェローニの不等式（Bonferroni’s inequality）と呼びます。

演習問題