連続型確率変数に関するマルコフの不等式

連続型確率変数に関するマルコフの不等式

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて絶対連続型の確率変数\begin{equation*}X:\Omega \rightarrow \mathbb{R} \end{equation*}が与えられているものとします。さらに、確率変数\(X\)の確率分布が確率密度関数\begin{equation*}f_{X}:\mathbb{R} \rightarrow \mathbb{R} \end{equation*}によって記述されているものとします。つまり、\begin{equation*}
\forall B\in \mathcal{B}\left( \mathbb{R} \right) :P\left( X\in B\right) =\int_{B}f_{X}\left( x\right) dx
\end{equation*}が成り立つということです。ただし、\(\mathcal{B}\left( \mathbb{R} \right) \)は\(\mathbb{R} \)上のボレル集合族です。確率変数\(X\)の分布関数が、\begin{equation*}F_{X}:\mathbb{R} \rightarrow \mathbb{R} \end{equation*}である場合、以下の関係\begin{equation*}
\forall x\in \mathbb{R} :F_{X}\left( x\right) =\int_{-\infty }^{x}f_{X}\left( t\right) dt
\end{equation*}もまた成立します。この確率変数\(X\)は以下の2つの条件を満たすものとします。

1つ目は、\(X\)が非負の実数のみを値としてとり得るということ、すなわち、\begin{equation*}\forall \omega \in \Omega :X\left( \omega \right) \geq 0
\end{equation*}が成り立つということです。

2つ目は、\(X\)の期待値\begin{equation*}E\left( X\right) =\int_{-\infty }^{+\infty }xf_{X}\left( x\right) dx
\end{equation*}が有限な実数として定まるということです。

正の実数\(c>0\)を任意に選んだとき、確率変数\(X\)の実現値が\(c\)以上である確率は、\begin{equation*}P\left( X\geq c\right) =P\left( \left\{ \omega \in \Omega \ |\ X\left(
\omega \right) \geq c\right\} \right)
\end{equation*}として定まりますが、\(X\)が先の条件を満たす場合には以下の関係\begin{equation*}P\left( X\geq c\right) \leq \frac{E\left( X\right) }{c}
\end{equation*}が成り立つことが保証されます。これをマルコフの不等式（Markov’s inequality）と呼びます。

絶対連続型の確率変数\(X\)が非負の実数のみを値としてとり得るとともに期待値\(E\left( X\right) \)が有限な実数として定まる場合には、任意の\(c>0\)について以下の関係\begin{equation*}P\left( X\geq c\right) \leq \frac{E\left( X\right) }{c}
\end{equation*}が成り立つことが明らかになりました。以上の事実をどのように理解すればよいでしょうか。

同一の確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に対して定義される2つの異なる確率変数\begin{eqnarray*}X &:&\Omega \rightarrow \mathbb{R} \\
Y &:&\Omega \rightarrow \mathbb{R} \end{eqnarray*}が与えられた状況において、これらの確率変数の実現値がある値\(c>0\)以上である確率どうしを比較します。ただし、\begin{equation}E\left( X\right) >E\left( Y\right) \quad \cdots (1)
\end{equation}が成り立つものとします。つまり、\(X\)の期待値は\(Y\)の期待値よりも大きいということです。マルコフの定理より、\begin{eqnarray*}P\left( X\geq c\right) &\leq &\frac{E\left( X\right) }{c} \\
P\left( Y\geq c\right) &\leq &\frac{E\left( Y\right) }{c}
\end{eqnarray*}が成り立ちますが、これらと\(\left( 1\right) \)および\(c>0\)より、\begin{equation*}\frac{E\left( X\right) }{c}>\frac{E\left( Y\right) }{c}
\end{equation*}を得ます。つまり、より大きい期待値\(E\left(X\right) \)を持つ確率変数\(X\)のもとで、ある値\(c\)以上の値が実現する確率はより大きく評価され、逆に、より小さい期待値\(E\left( Y\right) \)を持つ確率変数\(Y\)のもとで、ある値\(c\)以上の値が実現する確率はより小さく評価されます。つまり、確率分布の形状を山と見立て、期待値を山の頂上とみなす場合、山が高いほど山の裾野は長いということです。

先の命題は、確率変数の実現値がある値以上である確率の上限を評価する際にも有用です。つまり、マルコフの定理より、\begin{equation*}
P\left( X\geq c\right) \leq \frac{E\left( X\right) }{c}
\end{equation*}が成り立つため、確率変数\(X\)の実現値が\(c\)以上である確率の上限が\(\frac{E\left( X\right) }{c}\)であることが保証されます。同時に、確率変数の実現値がある値より小さい確率の下限を評価する際にも有用です。つまり、\begin{eqnarray*}P\left( X<c\right) &=&1-P\left( X\geq c\right) \\
&\geq &1-\frac{E\left( X\right) }{c}\quad \because \text{マルコフの不等式}
\end{eqnarray*}すなわち、\begin{equation*}
P\left( X<c\right) \geq 1-\frac{E\left( X\right) }{c}
\end{equation*}が成り立つため、確率変数\(X\)の実現値が\(c\)より小さい確率の下限が\(1-\frac{E\left( X\right) }{c}\)であることが保証されます。

確率変数の絶対値に関するマルコフの不等式

マルコフの不等式では確率変数\(X:\Omega \rightarrow \mathbb{R} \)が非負の実数のみを値としてとり得る状況を想定しています。一方、\(X\)が負の値をとり得る場合においても、その絶対値\(\left\vert X\right\vert \)をとれば、すなわち、それぞれの\(\omega \in\Omega \)に対して、\begin{equation*}\left\vert X\right\vert \left( \omega \right) =\left\vert X\left( \omega
\right) \right\vert
\end{equation*}を定める確率変数\begin{equation*}
\left\vert X\right\vert :\Omega \rightarrow \mathbb{R} \end{equation*}に注目すれば、この確率変数\(\left\vert X\right\vert \)は非負の実数のみを値としてとり得るため、この新たな確率変数\(\left\vert X\right\vert \)に対して先と同様の主張が成り立つことを保証できます。具体的には以下の通りです。

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて絶対連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)が与えられているものとします。加えて、\(X\)の確率分布が確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)によって記述されているものとします。さらに、それぞれの\(\omega \in \Omega \)に対して、\begin{equation*}\left\vert X\right\vert \left( \omega \right) =\left\vert X\left( \omega
\right) \right\vert
\end{equation*}を定める新たな確率変数\(\left\vert X\right\vert :\Omega \rightarrow \mathbb{R} \)を定義します。

この確率変数\(\left\vert X\right\vert \)の期待値が有限な実数として定まるものとします。LOTUSより、\(\left\vert X\right\vert \)の期待値は、\begin{equation*}E\left( \left\vert X\right\vert \right) =\int_{-\infty }^{+\infty
}\left\vert x\right\vert f_{X}\left( x\right) dx
\end{equation*}として定まることに注意してください。

正の実数\(c>0\)を任意に選んだとき、確率変数\(\left\vert X\right\vert \)の値が\(c\)以上である確率は、\begin{eqnarray*}P\left( \left\vert X\right\vert \geq c\right) &=&P\left( \left\{ \omega \in
\Omega \ |\ \left\vert X\right\vert \left( \omega \right) \geq c\right\}
\right) \\
&=&P\left( \left\{ \omega \in \Omega \ |\ \left\vert X\left( \omega \right)
\right\vert \geq c\right\} \right)
\end{eqnarray*}として定まりますが、先の条件が満たされる場合には、以下の関係\begin{equation*}
P\left( \left\vert X\right\vert \geq c\right) \leq \frac{E\left( \left\vert
X\right\vert \right) }{c}
\end{equation*}が成り立つことが保証されます。これもまたマルコフの不等式（Markov’s inequality）と呼ばれます。

確率変数との合成関数に関するマルコフの不等式

マルコフの不等式では確率変数\(X:\Omega \rightarrow \mathbb{R} \)が非負の実数のみを値としてとり得る状況を想定しています。一方、\(X\)が負の値をとり得る場合においても、何らかの関数\(g:\mathbb{R} \rightarrow \mathbb{R} \)との合成関数\(g\circ X:\Omega\rightarrow \mathbb{N} \)をとることにより非負の実数のみを値としてとり得る確率変数\(g\left( X\right) =g\circ X\)を生成すれば、この新たな確率変数\(g\left( X\right) \)に対して先の命題と同様の主張が成り立つことを保証できます。具体的には以下の通りです。

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて絶対連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)が与えられているものとします。加えて、\(X\)の確率分布が確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)によって記述されているものとします。さらに、関数\(g:\mathbb{R} \rightarrow \mathbb{R} \)を任意に選んだ上で、それぞれの\(\omega \in \Omega \)に対して、\begin{equation*}g\left( X\right) \left( \omega \right) =g\left( X\left( \omega \right)
\right)
\end{equation*}を定める新たな確率変数\(g\left( X\right) :\Omega \rightarrow \mathbb{R} \)を定義します。この確率変数\(X\)は以下の2つの条件を満たすものとします。

1つ目は、\(g\left( X\right) \)が非負の実数のみを値としてとり得るということ、すなわち、\begin{equation*}\forall \omega \in \Omega :g\left( X\right) \left( \omega \right) =g\left(
X\left( \omega \right) \right) \geq 0
\end{equation*}が成り立つということです。

2つ目は、\(g\left( X\right) \)の期待値が有限な実数として定まるということです。LOTUSより、\(g\left( X\right) \)の期待値は、\begin{equation*}E\left( g\left( X\right) \right) =\int_{-\infty }^{+\infty }g\left( x\right)
f_{X}\left( x\right) dx
\end{equation*}として定まることに注意してください。

正の実数\(c>0\)を任意に選んだとき、確率変数\(g\left( X\right) \)の値が\(c\)以上である確率は、\begin{eqnarray*}P\left( g\left( X\right) \geq c\right) &=&P\left( \left\{ \omega \in \Omega
\ |\ g\left( X\right) \left( \omega \right) \geq c\right\} \right) \\
&=&P\left( \left\{ \omega \in \Omega \ |\ g\left( X\left( \omega \right)
\right) \geq c\right\} \right)
\end{eqnarray*}として定まりますが、先の条件が満たされる場合には、以下の関係\begin{equation*}
P\left( g\left( X\right) \geq c\right) \leq \frac{E\left( g\left( X\right)
\right) }{c}
\end{equation*}が成り立つことが保証されます。これもまたマルコフの不等式（Markov’s inequality）と呼ばれます。

マルコフの不等式の正確性

確率変数\(X\)の確率分布の全容を特定するのが困難な状況においても、期待値\(E\left( X\right) \)さえ明らかであれば、マルコフの不等式を用いることにより、その確率変数\(X\)の実現値が\(c\)以上である確率\(P\left( X\geq c\right) \)の上限\(\frac{E\left( X\right) }{c}\)を特定することはできます。つまり、\(X\)の実現値が\(c\)以上である真の確率\(P\left( X\geq c\right) \)を特定するのが困難な状況においても、期待値\(E\left( X\right) \)さえ明らかであれば、確率\(P\left( X\geq c\right) \)の真の値が収まる範囲を特定できるということです。言い換えると、\(X\)の実現値が\(c\)以上である真の確率\(P\left( X\geq c\right) \)が\(\frac{E\left( X\right) }{c}\)を超えることはありません。では、真の確率\(P\left( X\geq c\right) \)とマルコフの不等式が与える値\(\frac{E\left( X\right) }{c}\)はどの程度乖離しているのでしょうか。具体例を挙げます。

演習問題