連続型確率変数の分散と標準偏差

期待値の欠点

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)が与えられているものとします。つまり、\(X\)の値域\begin{equation*}X\left( \Omega \right) =\left\{ X\left( \omega \right) \in \mathbb{R} \ |\ \omega \in \Omega \right\}
\end{equation*}が数直線\(\mathbb{R} \)上の区間であったり、互いに素な区間の和集合であるということです。加えて、確率変数\(X\)の確率分布が確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)によって記述されているものとします。つまり、確率変数\(X\)の値が区間\(I\subset \mathbb{R} \)に属する確率は、\begin{equation*}P\left( X\in I\right) =\int_{I}f_{X}\left( x\right) dx
\end{equation*}であるということです。

問題としている試行のもとで確率変数\(X\)が取り得る値の範囲\(X\left(\Omega \right) \)は分かっていますが、試行はランダムネスによって支配されているため、\(X\left(\Omega \right) \)の中のどの値が実際に実現するかを事前に特定できません。したがって、何らかの手段を通じて\(X\left( \Omega \right) \)の中のどの値が実際に実現するかを予測する必要があります。以上の問題意識のもと、確率変数\(X\)の期待値\begin{equation*}E\left( X\right) =\int_{-\infty }^{+\infty }xf_{X}\left( x\right) dx
\end{equation*}と呼ばれる指標を導入しました。これは確率変数\(X\)の実現値の見込み値を表す指標です。

ただ、確率変数の確率分布を表現する指標として期待値に欠点がないわけではありません。実際、確率変数の確率分布が明らかに異なるにも関わらず、それらの期待値が一致するような状況は起こり得ます。期待値は確率分布の違いを上手く表現できると限らないということです。以下の例より明らかです。

連続型確率変数の分散と標準偏差

確率空間\(\left( \Omega ,\mathcal{F},P\right) \)に加えて連続型の確率変数\(X:\Omega \rightarrow \mathbb{R} \)が与えられているとともに、\(X\)の確率分布が確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)によって記述されているものとします。加えて、\(X\)の期待値\begin{equation*}E\left( X\right) =\int_{-\infty }^{+\infty }xf_{X}\left( x\right) dx
\end{equation*}が有限な実数として定まるものとします。確率変数\(X\)の値が期待値\(E\left( X\right) \)のまわりにどのように散らばっているかを表現するために、\(X\)がとり得るそれぞれの値\(x\in X\left( \Omega \right) \)と期待値の差\(x-E\left( X\right) \)をとります。符号を正に統一するために平方\(\left[ x-E\left( X\right) \right] ^{2}\)をとった上で、この値の期待値\begin{equation*}E\left[ \left[ X-E\left( X\right) \right] ^{2}\right] \end{equation*}を散らばりの指数として採用します。具体的には、\begin{equation*}
E\left[ \left[ X-E\left( X\right) \right] ^{2}\right] =\int_{-\infty
}^{+\infty }\left[ x-E\left( X\right) \right] ^{2}f_{X}\left( x\right)
dx\quad \because \text{LOTUS}
\end{equation*}となります。この指標を確率変数\(X\)の分散（variance）と呼び、\begin{equation*}\mathrm{Var}\left( X\right)
\end{equation*}で表記します。つまり、\begin{equation*}
\mathrm{Var}\left( X\right) =\int_{-\infty }^{+\infty }\left[ x-E\left(
X\right) \right] ^{2}f_{X}\left( x\right) dx
\end{equation*}を満たすものとして分散は定義されます。

繰り返しになりますが、分散\(\mathrm{Var}\left( X\right) \)は確率変数\(X\)の値が期待値\(E\left( X\right) \)のまわりにどのように散らばっているかを表す指標です。確率変数\(X\)の値\(x\)の多くが期待値\(E\left( X\right) \)から離れた場所に分布している場合には分散\(\mathrm{Var}\left( X\right) \)は大きく評価され、逆に、確率変数\(X\)の値\(x\)の多くが期待値\(E\left( X\right) \)の近くに分布している場合には分散\(\mathrm{Var}\left( X\right) \)は小さく評価されます。

連続型確率変数の標準偏差

連続型の確率変数\(X\)の分散\(\mathrm{Var}\left( X\right) \)が有限な実数として定まる場合、それは必ず非負の実数として定まるため、その正の平方根\begin{equation*}\sqrt{\mathrm{Var}\left( X\right) }
\end{equation*}をとることができます。この指標を確率変数\(X\)の標準偏差（standard deviatioin）と呼び、\begin{equation*}\sigma _{X},\quad \mathrm{SD}\left( X\right)
\end{equation*}などで表記します。つまり、連続型の確率変数\(X\)の標準偏差は、\begin{eqnarray*}\sigma _{X} &=&\sqrt{\mathrm{Var}\left( X\right) }\quad \because \text{標準偏差の定義} \\
&=&\sqrt{\int_{-\infty }^{+\infty }\left[ x-E\left( X\right) \right] ^{2}f_{X}\left( x\right) dx}\quad \because \text{分散の定義}
\end{eqnarray*}と定義される指標です。このとき、\begin{equation*}
\sigma _{X}^{2}=\mathrm{Var}\left( X\right)
\end{equation*}という関係が成り立つため、確率変数\(X\)の分散を、\begin{equation*}\sigma _{X}^{2}
\end{equation*}で表記することもできます。

離散型の確率変数\(X\)の分散は、\begin{equation*}\mathrm{Var}\left( X\right) =\int_{-\infty }^{+\infty }\left[ x-E\left(
X\right) \right] ^{2}f_{X}\left( x\right) dx
\end{equation*}と定義されますが、分散の導出過程で確率変数の値と期待値の差の平方\(\left[ x-E\left( X\right) \right]^{2}\)をとっているため、分散\(\mathrm{Var}\left( X\right) \)の単位は確率変数\(X\)の値の単位の平方になっています。一方、標準偏差は分散の平方根\begin{equation*}\sigma _{X}=\sqrt{\mathrm{Var}\left( X\right) }
\end{equation*}であるため、標準偏差\(\sigma _{X}\)の単位は確率変数\(X\)の値の単位と一致しており、指標の意味が直感的に分かりやすくなっています。

分散の導出プロセスの簡略化

連続型の確率変数\(X\)の分散は、\begin{equation*}\mathrm{Var}\left( X\right) =\int_{-\infty }^{+\infty }\left[ x-E\left(
X\right) \right] ^{2}f_{X}\left( x\right) dx
\end{equation*}と定義されるため、分散を導出する際には以下の手順にしたがう必要があります。

1. 確率変数\(X\)の期待値\(E\left( X\right) \)を導出する。
2. 確率変数\(X\)がとり得る値\(x\in X\left( \Omega \right) \)について、それと期待値\(E\left(X\right) \)の差の平方\(\left[ x-E\left( X\right) \right] ^{2}\)をとり、さらに\(f_{X}\left( x\right) \)との積を求める。
3. 得られた積を全区間\(\mathbb{R} \)上で積分する。

ただ、以下の命題を利用することにより、分散の導出プロセスを簡略化できます。

以上の命題を踏まえると、連続型の確率変数\(X\)の分散を求める際に、以下の手順にしたがってもよいことが保証されます。

1. 確率変数\(X\)の期待値\(E\left( X\right) \)を導出する。
2. 確率変数\(X^{2}\)の期待値\(E\left( X^{2}\right) \)を導出する。
3. 以上の結果を踏まえた上で、\(E\left( X^{2}\right) -\left[E\left( X\right) \right] ^{2}\)を計算する。

分散が有限な実数として定まらない場合

連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)の確率分布が確率密度関数\(f:\mathbb{R} \rightarrow \mathbb{R} \)によって記述されている場合、\(X\)の分散は、\begin{equation*}\mathrm{Var}\left( X\right) =\int_{-\infty }^{+\infty }\left[ x-E\left(
X\right) \right] ^{2}f_{X}\left( x\right) dx
\end{equation*}と定義されます。ただし、この定義では確率変数\(X\)の期待値\(E\left(X\right) \)が有限な実数として定まることが前提になっています。仮に期待値\(E\left( X\right) \)が有限な実数として定まらない場合、すなわち\(E\left( X\right) \)が無限大である場合や\(E\left( X\right) \)が存在しない場合には、分散\(V\left( X\right) \)は存在しないものとみなします。したがって、この場合、標準偏差\(\sigma _{X}\)もまた存在しません。

一方、期待値\(E\left( X\right) \)が有限な実数として定まるにも関わらず、分散\(\mathrm{Var}\left( X\right) \)が有限な実数として定まらない事態は起こり得ます。分散\(\mathrm{Var}\left( X\right) \)が正の無限大である場合、標準偏差\(\sigma _{X}\)もまた正の無限大であるものとみなします。以下が具体例です。

連続型確率変数との合成関数の分散

連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)の確率分布が確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)によって記述されているものとします。\(C^{1}\)かつ狭義単調な関数\(g:\mathbb{R} \rightarrow \mathbb{R} \)を任意に選んだ上で、それぞれの\(\omega \in \Omega \)に対して、\begin{eqnarray*}Y\left( \omega \right) &=&\left( g\circ X\right) \left( \omega \right) \\
&=&g\left( X\left( \omega \right) \right) \quad \because \text{合成関数の定義}
\end{eqnarray*}を定める新たな確率変数\(Y:\Omega \rightarrow \mathbb{R} \)を定義します。確率変数\(Y\)の分散が存在する場合には、分散の導出プロセスの簡略化に関する先の命題より、\begin{equation*}\mathrm{Var}\left( Y\right) =E\left( Y^{2}\right) -\left[ E\left( Y\right) \right] ^{2}
\end{equation*}という関係が成り立つことが保証されます。なお、\(E\left( Y^{2}\right) \)や\(E\left( Y\right) \)を導出する際にはLOTUSを利用できます。具体的には、\begin{eqnarray*}E\left( Y^{2}\right) &=&\int_{-\infty }^{+\infty }\left[ g\left( x\right) \right] ^{2}f_{X}\left( x\right) dx \\
E\left( Y\right) &=&\int_{-\infty }^{+\infty }g\left( x\right) f_{X}\left(
x\right) dx
\end{eqnarray*}などとなります。

連続型確率変数の定数倍の分散

連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)と実数\(c\in \mathbb{R} \)が与えられたとき、それぞれの\(\omega \in \Omega \)に対して、\begin{equation*}\left( cX\right) \left( \omega \right) =cX\left( \omega \right)
\end{equation*}を定める新たな確率変数\(cX:\Omega \rightarrow \mathbb{R} \)が定義可能です。\(c=0\)の場合には、任意の\(\omega \in \Omega \)に対して、\begin{equation*}\left( cX\right) \left( \omega \right) =0
\end{equation*}となるため\(cX\)は定数値関数であり、したがって離散型の確率変数になります。そこで以降では\(c\not=0\)の場合について考えます。\(X\)の確率分布が確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)によって記述されており、なおかつ\(X\)の分散\(\mathrm{Var}\left( X\right) \)が存在する場合、\(cX\)の分散\(\mathrm{Var}\left(cX\right) \)が存在することが保証されるとともに、両者の間には、\begin{equation*}E\left( cX\right) =cE\left( X\right)
\end{equation*}という関係が成り立ちます。

連続型確率変数の1次スケーリングの分散

連続型の確率変数\(X:\Omega\rightarrow \mathbb{R} \)と非ゼロの実数\(c,d\in \mathbb{R} \backslash \left\{ 0\right\} \)が与えられたとき、それぞれの\(\omega \in \Omega \)に対して、\begin{equation*}\left( cX+d\right) \left( \omega \right) =cX\left( \omega \right) +d
\end{equation*}を定める新たな確率変数\(cX+d:\Omega \rightarrow \mathbb{R} \)が定義可能です。\(X\)の確率分布が確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)によって記述されており、なおかつ\(X\)の分散\(\mathrm{Var}\left( X\right) \)が存在する場合、\(cX+d\)の分散\(\mathrm{Var}\left(cX+d\right) \)が存在することが保証されるとともに、両者の間には、\begin{equation*}E\left( cX+d\right) =c^{2}E\left( X\right)
\end{equation*}という関係が成り立ちます。

連続型確率変数の和の分散

連続型の確率変数\(X,Y:\Omega\rightarrow \mathbb{R} \)が与えられたとき、それぞれの\(\omega \in \Omega \)に対して、\begin{equation*}\left( X+Y\right) \left( \omega \right) =X\left( \omega \right) +Y\left(
\omega \right)
\end{equation*}を定める新たな確率変数\(X+Y:\Omega \rightarrow \mathbb{R} \)が定義可能です。\(X\)の確率分布が確率密度関数\(f_{X}:\mathbb{R} \rightarrow \mathbb{R} \)によって、\(Y\)の確率分布が確率密度関数\(f_{Y}:\mathbb{R} \rightarrow \mathbb{R} \)によってそれぞれ記述されているとともに、\(X,Y\)の期待値\(E\left( X\right),E\left( Y\right) \)がともに存在する場合、\(X+Y\)の期待値\(E\left( X+Y\right) \)が存在することが保証されるとともに、それらの間には、\begin{equation*}E\left( X+Y\right) =E\left( X\right) +E\left( Y\right)
\end{equation*}という関係が成り立つことは以前に示した通りです。一方、分散に関しては、\begin{equation*}
\mathrm{Var}\left( X+Y\right) =\mathrm{Var}\left( X\right) +\mathrm{Var}\left(
Y\right)
\end{equation*}という関係は成立するとは限りません。以下の例より明らかです。

演習問題