イェンゼンの不等式を用いた凸関数の特徴づけ
凸集合上に定義された多変数関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)が凸関数であるものとします。つまり、\begin{equation*}\forall \boldsymbol{x},\boldsymbol{y}\in X,\ \forall \lambda \in \left[ 0,1\right] :\lambda f\left( \boldsymbol{x}\right) +\left( 1-\lambda \right)
f\left( \boldsymbol{y}\right) \geq f\left( \lambda \boldsymbol{x}+\left(
1-\lambda \right) \boldsymbol{y}\right)
\end{equation*}が成り立つということです。
自然数\(k\in \mathbb{N} \)を任意に選んだ上で、さらに凸集合上に存在する\(k\)個の点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\in X\)と、以下の条件\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,\cdots ,k\right\} :\lambda
_{i}\geq 0 \\
&&\left( b\right) \ \sum_{i=1}^{k}\lambda _{i}=1
\end{eqnarray*}を満たす\(k\)個のスカラー\(\lambda _{1},\cdots ,\lambda _{k}\in \mathbb{R} \)をそれぞれ任意に選んだとき、\(f\)が凸関数である場合には以下の不等式\begin{equation*}\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{i}\right) \geq f\left(
\sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{i}\right)
\end{equation*}が必ず成り立ちます。これをイェンゼンの不等式（Jensen’s inequality）と呼びます。
逆に、イェンゼンの不等式から関数の凸性が導かれるため以下を得ます。
_{i}\geq 0 \\
&&\left( b\right) \ \sum_{i=1}^{k}\lambda _{i}=1
\end{eqnarray*}を満たす\(k\)個のスカラー\(\lambda _{1},\cdots ,\lambda _{k}\in \mathbb{R} \)をそれぞれ任意に選んだときに、\begin{equation*}\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{i}\right) \geq f\left(
\sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{i}\right)
\end{equation*}が成り立つことは、\(f\)が凸関数であるための必要十分条件である。
\sum_{i=1}^{k}\frac{1}{k}\boldsymbol{x}_{i}\right)
\end{equation*}すなわち、\begin{equation*}
\frac{1}{k}\sum_{i=1}^{k}f\left( \boldsymbol{x}_{i}\right) \geq f\left(
\frac{1}{k}\sum_{i=1}^{k}\boldsymbol{x}_{i}\right)
\end{equation*}すなわち、\begin{equation*}
\frac{f\left( \boldsymbol{x}_{1}\right) +\cdots +f\left( \boldsymbol{x}_{k}\right) }{k}\geq f\left( \frac{\boldsymbol{x}_{1}+\cdots +\boldsymbol{x}_{k}}{k}\right)
\end{equation*}が成り立ちます。つまり、凸関数\(f\)に関しては、定義域の点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\)を任意に選んだとき、それらに対して\(f\)が与える値の平均（左辺）は、\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\)の平均に対して\(f\)が与える値（右辺）以上になります。
イェンゼンの不等式を用いた凹関数の特徴づけ
凸集合上に定義された多変数関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)が凹関数であるものとします。つまり、\begin{equation*}\forall \boldsymbol{x},\boldsymbol{y}\in X,\ \forall \lambda \in \left[ 0,1\right] :\lambda f\left( \boldsymbol{x}\right) +\left( 1-\lambda \right)
f\left( \boldsymbol{y}\right) \leq f\left( \lambda \boldsymbol{x}+\left(
1-\lambda \right) \boldsymbol{y}\right)
\end{equation*}が成り立つということです。
自然数\(k\in \mathbb{N} \)を任意に選んだ上で、さらに区間上に存在する\(k\)個の点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\in I\)と、以下の条件\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,\cdots ,k\right\} :\lambda
_{i}\geq 0 \\
&&\left( b\right) \ \sum_{i=1}^{k}\lambda _{i}=1
\end{eqnarray*}を満たす\(k\)個のスカラー\(\lambda _{1},\cdots ,\lambda _{k}\in \mathbb{R} \)をそれぞれ任意に選んだとき、\(f\)が凹関数である場合には以下の不等式\begin{equation*}\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{i}\right) \leq f\left(
\sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{i}\right)
\end{equation*}が必ず成り立ちます。これは凹関数に関するイェンゼンの不等式（Jensen’s inequality）です。
逆に、イェンゼンの不等式から関数の凹性が導かれるため以下を得ます。
_{i}\geq 0 \\
&&\left( b\right) \ \sum_{i=1}^{k}\lambda _{i}=1
\end{eqnarray*}を満たす\(k\)個のスカラー\(\lambda _{1},\cdots ,\lambda _{k}\in \mathbb{R} \)をそれぞれ任意に選んだときに、\begin{equation*}\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{i}\right) \leq f\left(
\sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{i}\right)
\end{equation*}が成り立つことは、\(f\)が凹関数であるための必要十分条件である。
\sum_{i=1}^{k}\frac{1}{k}\boldsymbol{x}_{i}\right)
\end{equation*}すなわち、\begin{equation*}
\frac{1}{k}\sum_{i=1}^{k}f\left( \boldsymbol{x}_{i}\right) \leq f\left(
\frac{1}{k}\sum_{i=1}^{k}\boldsymbol{x}_{i}\right)
\end{equation*}すなわち、\begin{equation*}
\frac{f\left( \boldsymbol{x}_{1}\right) +\cdots +f\left( \boldsymbol{x}_{k}\right) }{k}\leq f\left( \frac{\boldsymbol{x}_{1}+\cdots +\boldsymbol{x}_{k}}{k}\right)
\end{equation*}が成り立ちます。つまり、凸関数\(f\)に関しては、定義域の点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\)を任意に選んだとき、それらに対して\(f\)が与える値の平均（左辺）は、\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\)の平均に対して\(f\)が与える値（右辺）以下になります。
イェンゼンの不等式が等号で成立するケース
凸集合上に定義された多変数関数が凸関数であることと、その関数がイェンゼンの不等式を満たすことは必要十分であることが明らかになりました。したがって、凸集合上に定義された凸関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)に関しては、自然数\(k\in \mathbb{N} \)および\(k\)個の点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\in X\)と、以下の条件\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,\cdots ,k\right\} :\lambda
_{i}\geq 0 \\
&&\left( b\right) \ \sum_{i=1}^{k}\lambda _{i}=1
\end{eqnarray*}を満たす\(k\)個のスカラー\(\lambda _{1},\cdots ,\lambda _{k}\in \mathbb{R} \)をそれぞれ任意に選んだときに、\begin{equation*}\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{i}\right) \geq f\left(
\sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{i}\right)
\end{equation*}が成り立ちます。では、イェンゼンの不等式はいかなる状況において等号で成立するのでしょうか。
\(k=1\)の場合について考えます。点\(\boldsymbol{x}\in X\)を任意に選びます。また、条件\(\left( a\right) ,\left( b\right) \)を満たすスカラーは\(1\in \mathbb{R} \)だけです。このとき、\begin{equation*}1f\left( \boldsymbol{x}\right) =f\left( 1\boldsymbol{x}\right)
\end{equation*}が成り立ちます。つまり、\(k\)が\(1\)である場合、点とスカラーの選び方に関わらずイェンゼンの不等式は等号で成立します。
\(k\in \mathbb{N} \)および\(k\)個の点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\in X\)をそれぞれ任意に選びます。\(k\)個のスカラー\(\lambda _{1},\cdots ,\lambda_{k}\in \mathbb{R} \)の中の1つが\(1\)であり、他のすべてが\(0\)である状況を想定します。\(\lambda _{1}=1\)かつ\(\lambda _{2}=\cdots =\lambda _{k}=0\)としても一般性は失われません。このようなスカラー\(\lambda _{1},\cdots ,\lambda _{k}\)は条件\(\left( a\right) ,\left( b\right) \)を満たすとともに、\begin{eqnarray*}\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{i}\right) &=&1f\left(
\boldsymbol{x}_{1}\right) =f\left( \boldsymbol{x}_{1}\right) \\
f\left( \sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{i}\right) &=&f\left( 1\boldsymbol{x}_{1}\right) =f\left( \boldsymbol{x}_{1}\right)
\end{eqnarray*}となるため、\begin{equation*}
\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{i}\right) =f\left(
\sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{i}\right)
\end{equation*}が成り立ちます。つまり、スカラー\(\lambda _{1},\cdots,\lambda _{k}\)の中の1つが\(1\)である場合、自然数\(k\)および点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\)の選び方に関わらずイェンゼンの不等式は等号で成立します。
\(k\in \mathbb{N} \)および条件\(\left( a\right) ,\left( b\right) \)を満たすスカラー\(\lambda_{1},\cdots ,\lambda _{k}\in \mathbb{R} \)を任意に選びます。さらに、\begin{equation*}\boldsymbol{x}_{1}=\cdots =\boldsymbol{x}_{k}
\end{equation*}を満たす\(k\)個の点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\in X\)に注目すると、\begin{eqnarray*}\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{i}\right)
&=&\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{1}\right) \quad
\because \boldsymbol{x}_{1}=\cdots =\boldsymbol{x}_{k} \\
&=&f\left( \boldsymbol{x}_{1}\right) \sum_{i=1}^{k}\lambda _{i} \\
&=&f\left( \boldsymbol{x}_{1}\right) 1\quad \because \left( b\right) \\
&=&f\left( \boldsymbol{x}_{1}\right)
\end{eqnarray*}であるとともに、\begin{eqnarray*}
f\left( \sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{i}\right) &=&f\left(
\sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{1}\right) \quad \because
\boldsymbol{x}_{1}=\cdots =\boldsymbol{x}_{k} \\
&=&f\left( \boldsymbol{x}_{1}\sum_{i=1}^{k}\lambda _{i}\right) \\
&=&f\left( \boldsymbol{x}_{1}\cdot 1\right) \quad \because \left( b\right)
\\
&=&f\left( \boldsymbol{x}_{1}\right)
\end{eqnarray*}であるため、\begin{equation*}
\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{i}\right) =f\left(
\sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{i}\right)
\end{equation*}が成り立ちます。つまり、点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\)がすべて等しい場合、自然数\(k\)およびスカラー\(\lambda _{1},\cdots ,\lambda _{k}\)の選び方に関わらずイェンゼンの不等式は等号で成立します。
では、自然数\(k\)および点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\)およびスカラー\(\lambda _{1},\cdots ,\lambda _{k}\)の選び方に関わらず、イェンゼンの不等式が必ず等号で成立するような凸関数\(f\)は存在するのでしょうか。凸集合上に定義された関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)がそれぞれの\(\boldsymbol{x}\in X\)に対して定める値が、ベクトル\(\boldsymbol{a}\in \mathbb{R} ^{n}\)およびスカラー\(b\in \mathbb{R} \)を用いて、\begin{equation*}f\left( \boldsymbol{x}\right) =\boldsymbol{a}\cdot \boldsymbol{x}+b
\end{equation*}と表されるものとします。つまり、\(f\)はアフィン関数であるということです。後ほど示すように、\(\boldsymbol{a},b\)の値によらず、アフィン関数\(f\)は凸関数かつ凹関数です。加えて、\(f\)がアフィン関数である場合、自然数\(k\)および点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\)およびスカラー\(\lambda_{1},\cdots ,\lambda _{k}\)の選び方に関わらず、イェンゼンの不等式は等号で成立します。
\end{equation*}と表されるものとする。\(f\)は凸関数である。自然数\(k\in \mathbb{N} \)を任意に選んだ上で、さらに凸集合上に存在する\(k\)個の点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\in X\)と、以下の条件\begin{eqnarray*}&&\left( a\right) \ \forall i\in \left\{ 1,\cdots ,k\right\} :\lambda
_{i}\geq 0 \\
&&\left( b\right) \ \sum_{i=1}^{k}\lambda _{i}=1
\end{eqnarray*}を満たす\(k\)個のスカラー\(\lambda _{1},\cdots ,\lambda _{k}\in \mathbb{R} \)をそれぞれ任意に選んだときに、\begin{equation*}\sum_{i=1}^{k}\lambda _{i}f\left( \boldsymbol{x}_{i}\right) =f\left(
\sum_{i=1}^{k}\lambda _{i}\boldsymbol{x}_{i}\right)
\end{equation*}が成り立つ。
実は、先の命題の逆もまた成立します。つまり、自然数\(k\)および点\(\boldsymbol{x}_{1},\cdots ,\boldsymbol{x}_{k}\)およびスカラー\(\lambda _{1},\cdots,\lambda _{k}\)の選び方に関わらずイェンゼンの不等式は等号で成立する場合、その関数はアフィン関数であることが保証されます。証明は必要な知識が揃った段階で行います。いずれにせよ、イェンゼンの不等式を常に等号で成立させる凸関数はアフィン関数だけであることが明らかになりました。したがって、アフィン関数ではない凸関数を対象とした場合、点やスカラーの選び方によっては、イェンゼンの不等式が等号で成立しない事態が必ず起こります。
\end{equation*}\begin{equation*}
f\left( x\right) =x^{2}
\end{equation*}を定めるものとします。\(f\)は凸関数ですがアフィン関数ではありません。\(2\in \mathbb{N} \)および\(2\)個の点\(\left( 1,0\right),\left( 0,1\right) \in \mathbb{R} ^{2}\)とスカラー\(\frac{1}{2},\frac{1}{2}\in \mathbb{R} \)に注目したとき、\begin{eqnarray*}f\left( \frac{1}{2}\left( 1,0\right) +\frac{1}{2}\left( 0,1\right) \right)
&=&f\left( \frac{1}{2},\frac{1}{2}\right) \\
&=&\left( \frac{1}{2}\right) ^{2}+\left( \frac{1}{2}\right) ^{2}\quad
\because f\text{の定義} \\
&=&\frac{1}{2}
\end{eqnarray*}である一方で、\begin{eqnarray*}
\frac{1}{2}f\left( 1,0\right) +\frac{1}{2}f\left( 0,1\right) &=&\frac{1}{2}\left( 1^{2}+0^{2}\right) +\frac{1}{2}\left( 0^{2}+1^{2}\right) \quad
\because f\text{の定義} \\
&=&1
\end{eqnarray*}であるため、\begin{equation*}
\frac{1}{2}f\left( 1,0\right) +\frac{1}{2}f\left( 0,1\right) >f\left( \frac{1}{2}\left( 1,0\right) +\frac{1}{2}\left( 0,1\right) \right)
\end{equation*}が成り立つため、イェンゼンの不等式は等号では成立しません。以上の事実は先の命題と整合的です。ただし、\(k\in \mathbb{N} \)を任意に選んだとき、点\(x_{1},\cdots ,x_{k}\in X\)がすべて等しい場合や、スカラー\(\lambda _{1},\cdots ,\lambda _{k}\in \mathbb{R} \)の中の1つが\(1\)である場合などには、この凸関数\(f\)のもとでもイェンゼンの不等式は等号で成立することに注意してください。
アフィン関数は凹関数でもあるため、以上と同様の議論が、凹関数およびそれに対応するイェンゼンの不等式に対しても成立します。
プレミアム会員専用コンテンツです
【ログイン】【会員登録】