確率収束する確率変数列

確率収束する確率変数列

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて、標本空間\(\Omega \)を定義域として共有する確率変数列\(\left\{X_{n}\right\} \)が与えられているものとします。つまり、この確率変数列\(\left\{ X_{n}\right\} \)の一般項は\(\Omega \)上に定義された確率変数\begin{equation*}X_{n}:\Omega \rightarrow \mathbb{R} \end{equation*}です。また、それらとは異なる確率変数\begin{equation*}
X:\Omega \rightarrow \mathbb{R} \end{equation*}が与えられているものとします。

標本点\(\omega \in \Omega \)を選べば、確率変数列\(\left\{ X_{n}\right\} \)のもとでの実現値からなる数列\(\left\{ X_{n}\left( \omega \right)\right\} \)と、確率変数\(X\)のもとでの実現値\(X\left( \omega \right) \)が得られるため、\begin{equation*}\left\vert X_{n}\left( \omega \right) -X\left( \omega \right) \right\vert
\end{equation*}を一般項とする新たな数列\begin{equation*}
\left\{ \left\vert X_{n}\left( \omega \right) -X\left( \omega \right)
\right\vert \right\}
\end{equation*}が定義可能です。これは、標本点\(\omega \)が実現した状況において、\(n\)が大きくなるにつれて、確率変数列\(\left\{X_{n}\right\} \)のもとでの実現値と確率変数\(X\)のもとでの実現値の差が変化していく様子を描写する数列です。

正の実数\(\varepsilon >0\)を選んだとき、「\(X_{n}\left( \omega \right) \)と\(X\left( \omega \right) \)の差が\(\varepsilon \)より小さい」という事象は、\begin{equation*}\left\{ \omega \in \Omega \ |\ \left\vert X_{n}\left( \omega \right)
-X\left( \omega \right) \right\vert <\varepsilon \right\}
\end{equation*}です。\(n\)を限りなく大きくした場合にこの事象が起こる確率が\(1\)へ限りなく近づく場合には、すなわち、\begin{equation*}\lim_{n\rightarrow \infty }P\left( \left\{ \omega \in \Omega \ |\ \left\vert
X_{n}\left( \omega \right) -X\left( \omega \right) \right\vert <\varepsilon
\right\} \right) =1
\end{equation*}が成り立つならば、\(n\)を限りなく大きくした場合に、ほとんどすべての標本点\(\omega \in \Omega \)について、\(\omega \)が実現した場合の確率変数列\(\left\{ X_{n}\right\} \)のもとでの実現値と確率変数\(X\)のもとでの実現値の差が\(\varepsilon \)より小さくなることを意味します。

最初に設定する正の実数\(\varepsilon >0\)としてどれほど小さい値を選んだ場合にも同様の主張が成り立つものとします。つまり、\begin{equation*}\forall \varepsilon >0:\lim_{n\rightarrow \infty }P\left( \left\{ \omega \in
\Omega \ |\ \left\vert X_{n}\left( \omega \right) -X\left( \omega \right)
\right\vert <\varepsilon \right\} \right) =1
\end{equation*}が成り立つということです。これは、\(n\)を限りなく大きくすれば、ほとんどすべての標本点\(\omega \in \Omega \)について、\(\omega \)が実現した場合の確率変数列\(\left\{X_{n}\right\} \)のもとでの実現値と確率変数\(X\)のもとでの実現値の差が限りなく小さくなることを意味します。イプシロン・エヌ論法を用いて同じことを表現すると、\begin{eqnarray*}\forall \varepsilon &>&0,\ \forall \delta >0,\ \exists N\in \mathbb{N} ,\ \forall n\in \mathbb{N} : \\
n &\geq &N\Rightarrow \left\vert P\left( \left\{ \omega \in \Omega \ |\
\left\vert X_{n}\left( \omega \right) -X\left( \omega \right) \right\vert
<\varepsilon \right\} \right) -1\right\vert <\delta
\end{eqnarray*}となります。いずれにせよ、以上の条件が成り立つ場合、確率変数列\(\left\{ X_{n}\right\} \)は確率変数\(X\)へ確率収束する（converge in probability）と言い、そのことを、\begin{equation*}X_{n}\rightarrow X\quad \text{c.p.}
\end{equation*}または、\begin{equation*}
X_{n}\overset{p}{\rightarrow }X
\end{equation*}などで表記します。その上で、このような確率変数\(X\)を確率変数列\(\left\{ X_{n}\right\} \)の確率極限（probability limit）と呼びます。以上が確率収束という収束概念にもとづく確率変数列の極限の定義です。

以下は確率分布が与えられているケースです。

確率収束の代替的な定義

標本空間\(\Omega \)上の確率変数の列\(\left\{ X_{n}\right\} \)が確率変数\(X:\Omega \rightarrow \mathbb{R} \)へ確率収束することとは、\begin{equation*}\forall \varepsilon >0:\lim_{n\rightarrow \infty }P\left( \left\{ \omega \in
\Omega \ |\ \left\vert X_{n}\left( \omega \right) -X\left( \omega \right)
\right\vert <\varepsilon \right\} \right) =1
\end{equation*}が成り立つことを意味します。ここで、問題としている事象\begin{equation*}
\left\{ \omega \in \Omega \ |\ \left\vert X_{n}\left( \omega \right)
-X\left( \omega \right) \right\vert <\varepsilon \right\}
\end{equation*}の余事象が、\begin{equation*}
\left\{ \omega \in \Omega \ |\ \left\vert X_{n}\left( \omega \right)
-X\left( \omega \right) \right\vert \geq \varepsilon \right\}
\end{equation*}であることを踏まえると、確率変数列\(\left\{X_{n}\right\} \)が確率変数\(X\)へ確率収束することを、\begin{equation*}\forall \varepsilon >0:\lim_{n\rightarrow \infty }P\left( \left\{ \omega \in
\Omega \ |\ \left\vert X_{n}\left( \omega \right) -X\left( \omega \right)
\right\vert \geq \varepsilon \right\} \right) =0
\end{equation*}と表現することもできます。これは、\(\varepsilon>0\)としてどのような値を選んだ場合でも数列\begin{equation*}\left\{ P\left( \left\{ \omega \in \Omega \ |\ \left\vert X_{n}\left( \omega
\right) -X\left( \omega \right) \right\vert \geq \varepsilon \right\}
\right) \right\}
\end{equation*}が\(0\)へ収束するということであるため、同じことをイプシロン・エヌ論法を用いて表現すると、\begin{eqnarray*}\forall \varepsilon &>&0,\ \forall \delta >0,\ \exists N\in \mathbb{N} ,\ \forall n\in \mathbb{N} : \\
n &\geq &N\Rightarrow \left\vert P\left( \left\{ \omega \in \Omega \ |\
\left\vert X_{n}\left( \omega \right) -X\left( \omega \right) \right\vert
<\varepsilon \right\} \right) -0\right\vert <\delta
\end{eqnarray*}すなわち、\begin{eqnarray*}
\forall \varepsilon &>&0,\ \forall \delta >0,\ \exists N\in \mathbb{N} ,\ \forall n\in \mathbb{N} : \\
n &\geq &N\Rightarrow P\left( \left\{ \omega \in \Omega \ |\ \left\vert
X_{n}\left( \omega \right) -X\left( \omega \right) \right\vert <\varepsilon
\right\} \right) <\delta
\end{eqnarray*}となります。

確率変数列は確率収束するとは限らない

確率変数列は確率収束するとは限りません。以下の例より明らかです。

確率変数列の確率極限の一意性

確率変数列が確率収束する場合、その確率極限に相当する確率変数は一意的に定まるとは限りません。ただ、\(\left\{ X_{n}\right\} \)の異なる確率極限\(X,Y\)を任意に選んだとき、それらがほとんどいたるところで等しくなることは保証されます。つまり、\(X\)が定める値と\(Y\)が定める値が一致するような事象の確率は\(1\)になること、すなわち、\begin{equation*}P\left( \left\{ \omega \in \Omega \ |\ X\left( \omega \right) =Y\left(
\omega \right) \right\} \right) =1
\end{equation*}が成り立つということです。

演習問題