WIIS

漸近理論

コルモゴロフの不等式(コルモゴロフの最大不等式)

目次

関連知識

Mailで保存
Xで共有

コルモゴロフの最大不等式

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて、有限\(n\)回の試行の結果を特定する確率変数\begin{gather*}X_{1}:\Omega \rightarrow \mathbb{R} \\
X_{2}:\Omega \rightarrow \mathbb{R} \\
\vdots \\
X_{n}:\Omega \rightarrow \mathbb{R} \end{gather*}がそれぞれ与えられているものとします。ただし、各回の試行は独立であるとともに、各回の試行の結果の期待値はいずれも\(0\)であり、分散は有限な実数として定まるものとします。つまり、確率変数\(X_{1},X_{2},\cdots ,X_{n}\)は独立であるとともに、以下の2つの条件\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,2,\cdots ,n\right\} :E\left(
X_{i}\right) =0 \\
&&\left( b\right) \ \ \forall i\in \left\{ 1,2,\cdots ,n\right\} :\mathrm{Var}\left( X_{i}\right) <\infty
\end{eqnarray*}が成り立つ状況を想定するということです。

\(1\leq k\leq n\)を満たす番号\(k\in \mathbb{N} \)を任意に選べば、初回から\(k\)回までの試行の結果の和の絶対値を特定する確率変数が、\begin{equation*}\left\vert X_{1}+X_{2}+\cdots +X_{k}\right\vert :\Omega \rightarrow \mathbb{R} \end{equation*}として与えられます。簡略化のため、これを、\begin{equation*}
\left\vert S_{k}\right\vert =\left\vert X_{1}+X_{2}+\cdots +X_{k}\right\vert
\end{equation*}で表記します。つまり、標本点\(\omega \in \Omega \)が実現した場合、初回から\(k\)回までの結果の和の絶対値の実現値は、\begin{eqnarray*}\left\vert S_{k}\right\vert \left( \omega \right) &=&\left\vert
X_{1}+X_{2}+\cdots +X_{k}\right\vert \left( \omega \right) \\
&=&\left\vert X_{1}\left( \omega \right) +X_{2}\left( \omega \right) +\cdots
+X_{k}\left( \omega \right) \right\vert
\end{eqnarray*}として定まるということです。

正の実数値\(\varepsilon >0\)を任意に選びます。先の条件を満たす有限\(n\)回の試行を順番に実施する中で、各回の試行が終了する度にそれまでの結果の和の絶対値を逐一計算していった場合、何らかの時点においてその値が先に設定した値\(\varepsilon \)以上になるという事象は、\begin{eqnarray*}\left\{ \max_{1\leq k\leq n}\left\vert S_{k}\right\vert \geq \varepsilon
\right\} &=&\left\{ \omega \in \Omega \ |\ \max_{1\leq k\leq n}\left\vert
S_{k}\right\vert \left( \omega \right) \geq \varepsilon \right\} \\
&=&\left\{ \omega \in \Omega \ |\ \max_{1\leq k\leq n}\left\vert X_{1}\left(
\omega \right) +X_{2}\left( \omega \right) +\cdots +X_{k}\left( \omega
\right) \right\vert \geq \varepsilon \right\}
\end{eqnarray*}として表現されます。ただし、先の諸条件が満たされる場合には、\(\varepsilon >0\)を任意に選んだとき、この事象の確率がとり得る値の範囲が、\begin{equation*}P\left( \max_{1\leq k\leq n}\left\vert S_{k}\right\vert \geq \varepsilon
\right) \leq \frac{\mathrm{Var}\left( S_{n}\right) }{\varepsilon ^{2}}
\end{equation*}に収まることが保証されます。これをコルモゴロフの最大不等式(Kolmogorov’s maximal inequality)と呼びます。

命題(コルモゴロフの最大不等式)
確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて、有限\(n\)個の確率変数\(X_{1},X_{2},\cdots ,X_{n}:\Omega\rightarrow \mathbb{R} \)が与えられているものとする。その上で、\(1\leq k\leq n\)を満たすそれぞれの番号\(k\in \mathbb{N} \)に対して確率変数\(S_{k}:\Omega \rightarrow \mathbb{R} \)を、\begin{equation*}S_{k}=X_{1}+X_{2}+\cdots +X_{k}
\end{equation*}と定義する。確率変数\(X_{1},X_{2},\cdots ,X_{n}\)が独立であるとともに、以下の条件\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,2,\cdots ,n\right\} :E\left(
X_{i}\right) =0 \\
&&\left( b\right) \ \ \forall i\in \left\{ 1,2,\cdots ,n\right\} :\mathrm{Var}\left( X_{i}\right) <\infty
\end{eqnarray*}が成り立つ場合には、\(\varepsilon >0\)を任意に選んだとき、\begin{equation*}P\left( \max_{1\leq k\leq n}\left\vert S_{k}\right\vert \geq \varepsilon
\right) \leq \frac{E\left( S_{n}^{2}\right) }{\varepsilon ^{2}}
\end{equation*}が成り立つ。

証明

プレミアム会員専用コンテンツです
ログイン】【会員登録

 

期待値を用いたコルモゴロフの不等式の表現

コルモゴロフの不等式を以下のように表現することもできます。

命題(コルモゴロフの不等式)
確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて、有限\(n\)個の確率変数\(X_{1},X_{2},\cdots ,X_{n}:\Omega\rightarrow \mathbb{R} \)が与えられているものとする。その上で、\(1\leq k\leq n\)を満たすそれぞれの番号\(k\in \mathbb{N} \)に対して確率変数\(S_{k}:\Omega \rightarrow \mathbb{R} \)を、\begin{equation*}S_{k}=X_{1}+X_{2}+\cdots +X_{k}
\end{equation*}と定義する。確率変数\(X_{1},X_{2},\cdots ,X_{n}\)が独立であるとともに、以下の条件\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,2,\cdots ,n\right\} :E\left(
X_{i}\right) =0 \\
&&\left( b\right) \ \ \forall i\in \left\{ 1,2,\cdots ,n\right\} :\mathrm{Var}\left( X_{i}\right) <\infty
\end{eqnarray*}が成り立つ場合には、\(\varepsilon >0\)を任意に選んだとき、\begin{equation*}P\left( \max_{1\leq k\leq n}\left\vert S_{k}\right\vert \geq \varepsilon
\right) \leq \frac{\mathrm{Var}\left( S_{n}\right) }{\varepsilon ^{2}}
\end{equation*}が成り立つ。

証明

プレミアム会員専用コンテンツです
ログイン】【会員登録

 

分散の和を用いたコルモゴロフの不等式の表現

コルモゴロフの不等式を以下のように表現することもできます。

命題(コルモゴロフの不等式)
確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて、有限\(n\)個の確率変数\(X_{1},X_{2},\cdots ,X_{n}:\Omega\rightarrow \mathbb{R} \)が与えられているものとする。その上で、\(1\leq k\leq n\)を満たすそれぞれの番号\(k\in \mathbb{N} \)に対して確率変数\(S_{k}:\Omega \rightarrow \mathbb{R} \)を、\begin{equation*}S_{k}=X_{1}+X_{2}+\cdots +X_{k}
\end{equation*}と定義する。確率変数\(X_{1},X_{2},\cdots ,X_{n}\)が独立であるとともに、以下の条件\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,2,\cdots ,n\right\} :E\left(
X_{i}\right) =0 \\
&&\left( b\right) \ \ \forall i\in \left\{ 1,2,\cdots ,n\right\} :\mathrm{Var}\left( X_{i}\right) <\infty
\end{eqnarray*}が成り立つ場合には、\(\varepsilon >0\)を任意に選んだとき、\begin{equation*}P\left( \max_{1\leq k\leq n}\left\vert S_{k}\right\vert \geq \varepsilon
\right) \leq \frac{1}{\varepsilon ^{2}}\sum_{i=1}^{n}\mathrm{Var}\left(
X_{i}\right)
\end{equation*}が成り立つ。

証明

プレミアム会員専用コンテンツです
ログイン】【会員登録

 

コルモゴロフの不等式とチェビシェフの不等式の関係

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて確率変数\(X_{1}:\Omega \rightarrow \mathbb{R} \)が与えられているものとします。その上で、確率変数\(S_{1}:\Omega \rightarrow \mathbb{R} \)を、\begin{equation*}\left( a\right) \ S_{1}=X_{1}
\end{equation*}と定義します。\(X\)は単独で独立です。加えて、以下の条件\begin{eqnarray*}&&\left( b\right) \ E\left( X_{1}\right) =0 \\
&&\left( c\right) \ \mathrm{Var}\left( X_{1}\right) <\infty
\end{eqnarray*}が成り立つものとします。するとコルモゴロフの不等式より、\(\varepsilon >0\)を任意に選んだときに、\begin{equation*}P\left( \max_{1\leq k\leq 1}\left\vert S_{k}\right\vert \geq \varepsilon
\right) \leq \frac{\mathrm{Var}\left( S_{1}\right) }{\varepsilon ^{2}}
\end{equation*}すなわち、\begin{equation*}
P\left( \left\{ \left\vert S_{1}\right\vert \geq \varepsilon \right\}
\right) \leq \frac{\mathrm{Var}\left( S_{1}\right) }{\varepsilon ^{2}}
\end{equation*}が成り立ちます。\(\left(a\right) ,\left( b\right) \)よりこれは、\begin{equation*}P\left( \left\vert X_{1}-E\left( X_{1}\right) \right\vert \geq \varepsilon
\right) \leq \frac{\mathrm{Var}\left( X_{1}\right) }{\varepsilon ^{2}}
\end{equation*}と必要十分ですが、これはチェビシェフの不等式に他なりません。

別の状況を想定した場合にも、コルモゴロフの不等式とチェビシェフの不等式は一致します。具体的には以下の通りです。

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて、有限\(n\)個の確率変数\(X_{1},X_{2},\cdots ,X_{n}:\Omega\rightarrow \mathbb{R} \)が与えられているものとします。その上で、\(1\leq k\leq n\)を満たすそれぞれの番号\(k\in \mathbb{N} \)に対して確率変数\(S_{k}:\Omega \rightarrow \mathbb{R} \)を、\begin{equation*}S_{k}=X_{1}+X_{2}+\cdots +X_{k}
\end{equation*}と定義します。確率変数\(X_{1},X_{2},\cdots ,X_{n}\)が独立であるとともに、以下の条件\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,2,\cdots ,n\right\} :E\left(
X_{i}\right) =0 \\
&&\left( b\right) \ \ \forall i\in \left\{ 1,2,\cdots ,n\right\} :\mathrm{Var}\left( X_{i}\right) <\infty
\end{eqnarray*}に加えて、\begin{equation*}
\left( c\right) \ P\left( \max_{1\leq k\leq n}\left\vert S_{k}\right\vert
\geq \varepsilon \right) =P\left( \left\vert S_{n}\right\vert \geq
\varepsilon \right)
\end{equation*}を満たすものとします。するとコルモゴロフの不等式より、\(\varepsilon >0\)を任意に選んだときに、\begin{equation*}P\left( \max_{1\leq k\leq n}\left\vert S_{k}\right\vert \geq \varepsilon
\right) \leq \frac{\mathrm{Var}\left( S_{n}\right) }{\varepsilon ^{2}}
\end{equation*}が成り立ちます。\(\left(c\right) \)よりこれは、\begin{equation*}P\left( \left\vert S_{n}\right\vert \geq \varepsilon \right) \leq \frac{\mathrm{Var}\left( S_{n}\right) }{\varepsilon ^{2}}
\end{equation*}と必要十分ですが、これはチェビシェフの不等式に他なりません。

 

演習問題

問題(コルモゴロフの不等式)
確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて、標本空間\(\Omega \)上に定義された確率変数の列\(\left\{ X_{n}\right\} \)が与えられているものとします。\(\left\{ X_{n}\right\} \)は独立であるとともに、以下の条件\begin{eqnarray*}&&\left( a\right) \ \forall n\in \mathbb{N} :E\left( X_{n}\right) =0 \\
&&\left( b\right) \ \sum_{n=1}^{+\infty }\mathrm{Var}\left( E_{n}\right)
<\infty
\end{eqnarray*}を満たすものとします。それぞれの番号\(n\in \mathbb{N} \)に対して、確率変数\begin{eqnarray*}S_{n} &=&X_{1}+X_{2}+\cdots +X_{n} \\
&=&\sum_{i=1}^{n}X_{i}
\end{eqnarray*}を定義します。\(M<N\)を満たす自然数\(M,N\in \mathbb{N} \)と正の実数\(\varepsilon >0\)を任意に選んだとき、\begin{equation*}P\left( \max_{M\leq m\leq N}\left\vert S_{m}-S_{M}\right\vert \geq
\varepsilon \right) \leq \frac{1}{\varepsilon ^{2}}\sum_{n=M+1}^{N}\mathrm{Var}\left( X_{n}\right)
\end{equation*}が成り立つことを示してください。

解答を見る

プレミアム会員専用コンテンツです
ログイン】【会員登録

関連知識

Mailで保存
Xで共有

質問とコメント

プレミアム会員専用コンテンツです

会員登録

有料のプレミアム会員であれば、質問やコメントの投稿と閲覧、プレミアムコンテンツ(命題の証明や演習問題とその解答)へのアクセスなどが可能になります。

ワイズのユーザーは年齢・性別・学歴・社会的立場などとは関係なく「学ぶ人」として対等であり、お互いを人格として尊重することが求められます。ユーザーが快適かつ安心して「学ぶ」ことに集中できる環境を整備するため、広告やスパム投稿、他のユーザーを貶めたり威圧する発言、学んでいる内容とは関係のない不毛な議論などはブロックすることになっています。詳細はガイドラインをご覧ください。

誤字脱字、リンク切れ、内容の誤りを発見した場合にはコメントに投稿するのではなく、以下のフォームからご連絡をお願い致します。

プレミアム会員専用コンテンツです
ログイン】【会員登録