多変数関数の大域的最適解

多変数関数の最大点と最大値

多変数関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)が与えられたとき、\(f\left( x\right) \)の値を最大化するような点\(\boldsymbol{a}\)が\(f\)の定義域\(X\)上に存在する場合には、すなわち、\begin{equation*}\exists \boldsymbol{a}\in X,\ \forall \boldsymbol{x}\in X:f\left(
\boldsymbol{a}\right) \geq f\left( \boldsymbol{x}\right)
\end{equation*}が成り立つ場合には、このような点\(\boldsymbol{a}\)を\(f\)の\(X\)における最大点（maximum point）や大域的最大点（global maximum point）もしくは絶対的最大点（absolute maximum point）などと呼びます。また、\(f\)の\(X\)における最大点\(\boldsymbol{a}\)が存在する場合、\(f\)が点\(\boldsymbol{a}\)に対して定める値\(f\left( \boldsymbol{a}\right) \)を\(f\)の\(X\)における最大値（maximum value）や大域的最大値（global maximum value）もしくは絶対的最大値（absolute maximum value）などと呼び、これを、\begin{equation*}\max_{\boldsymbol{x}\in X}f\left( \boldsymbol{x}\right)
\end{equation*}で表記します。

関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)の値域は、\begin{equation*}f\left( X\right) =\left\{ f\left( \boldsymbol{x}\right) \in \mathbb{R} \ |\ \boldsymbol{x}\in X\right\}
\end{equation*}と定義される\(\mathbb{R} \)の部分集合ですが、これと関数\(f\)の最大値の間には以下の関係\begin{equation*}\max_{\boldsymbol{x}\in X}f\left( \boldsymbol{x}\right) =\max f\left(
X\right)
\end{equation*}が成り立ちます。つまり、\(f\)の\(X\)における最大値は\(f\)の値域の最大値と一致します。一般に、\(\mathbb{R} \)の非空な部分集合は最大値を持つとは限りませんが、存在する場合には必ず1つの実数として定まります。したがって、\(\max f\left( X\right) \)やそれと一致する\(\max\limits_{\boldsymbol{x}\in X}f\left( \boldsymbol{x}\right) \)もまた存在するとは限らない一方、存在する場合には必ず1つの実数として定まります。

関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)が\(X\)において最大値をとらない場合には、\(f\)の\(X\)における最大点は存在しません。また、関数\(f\)が\(X\)において最大値をとる場合、その最大値は1つの実数として定まる一方、最大点は一意的であるとは限りません。つまり、異なる点\(\boldsymbol{a},\boldsymbol{a}^{\prime }\in X\)に対して、\begin{equation*}\max_{\boldsymbol{x}\in X}f\left( \boldsymbol{x}\right) =f\left( \boldsymbol{a}\right) =f\left( \boldsymbol{a}^{\prime }\right)
\end{equation*}が成り立つ状況が起こり得るということです。以上を踏まえた上で、\(f\)の\(X\)における最大点からなる集合を、\begin{equation*}\underset{\boldsymbol{x}\in X}{\mathrm{argmax}}f\left( \boldsymbol{x}\right)
=\left\{ \boldsymbol{a}\in X\ |\ f\left( \boldsymbol{a}\right) =\max_{\boldsymbol{x}\in X}f\left( \boldsymbol{x}\right) \right\}
\end{equation*}で表記します。

例（関数の最大点と最大値）

関数\(f:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f\left( x,y\right) =-x^{2}-y^{2}
\end{equation*}を定めるものとします。\(f\)のグラフは以下の通りです。

この関数\(f\)の定義域\(\mathbb{R} ^{2}\)における最大点からなる集合は、\begin{equation*}\underset{\left( x,y\right) \in \mathbb{R} ^{2}}{\mathrm{argmax}}f\left( x,y\right) =\left\{ \left( 0,0\right)
\right\}
\end{equation*}であり、最大値は、\begin{eqnarray*}
\max_{\left( x,y\right) \in \mathbb{R} ^{2}}f\left( x,y\right) &=&f\left( 0,0\right) \\
&=&-0^{2}-0^{2} \\
&=&0
\end{eqnarray*}です。

例（関数の最大点と最大値）

関数\(f:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f\left( x,y\right) =x+y
\end{equation*}を定めるものとします。\(f\)のグラフは以下の通りです。

この関数\(f\)は定義域\(\mathbb{R} ^{2}\)において最大点を持ちません。\(x\)や\(y\)が大きくなるにつれて\(f\left(x,y\right) \)はいくらでも大きくなるからです。したがって、\begin{equation*}\underset{\left( x,y\right) \in \mathbb{R} ^{2}}{\mathrm{argmax}}f\left( x,y\right) =\phi
\end{equation*}が成り立ちます。一方、この関数\(f\)の定義域を制限して、\begin{equation*}f:\mathbb{R} ^{2}\supset \left[ 0,1\right] \times \left[ 0,1\right] \rightarrow \mathbb{R} \end{equation*}とすれば、\(f\)の値域は、\begin{eqnarray*}f\left( \left[ 0,1\right] \times \left[ 0,1\right] \right) &=&\left\{
f\left( x,y\right) \in \mathbb{R} \ |\ \left( x,y\right) \in \left[ 0,1\right] \times \left[ 0,1\right] \right\} \\
&=&\left\{ x+y\in \mathbb{R} \ |\ \left( x,y\right) \in \left[ 0,1\right] \times \left[ 0,1\right] \right\} \\
&=&\left[ 0,1\right] \end{eqnarray*}となるため、\(f\)の定義域\(\left[ 0,1\right] \times \left[ 0,1\right] \)における最大点からなる集合は、\begin{equation*}\underset{\left( x,y\right) \in \left[ 0,1\right] \times \left[ 0,1\right] }{\mathrm{argmax}}f\left( x,y\right) =\left\{ \left( 1,1\right) \right\}
\end{equation*}であり、最大値は、\begin{eqnarray*}
\max_{\left( x,y\right) \in \left[ 0,1\right] \times \left[ 0,1\right] }f\left( x,y\right) &=&f\left( 1,1\right) \\
&=&1+1 \\
&=&2
\end{eqnarray*}となります。この例が示唆するように、同じ関数でも定義域が変われば最大値や最大点もまた変化します。

多変数関数の最小点と最小値

多変数関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)が与えられたとき、\(f\left( \boldsymbol{x}\right) \)の値を最小化するような点\(\boldsymbol{a}\)が\(f\)の定義域\(X\)上に存在する場合には、すなわち、\begin{equation*}\exists \boldsymbol{a}\in X,\ \forall \boldsymbol{x}\in X:f\left(
\boldsymbol{a}\right) \leq f\left( \boldsymbol{x}\right)
\end{equation*}が成り立つ場合には、このような点\(\boldsymbol{a}\)を\(f\)の\(X\)における最小点（minimum point）や大域的最小点（global minimum point）もしくは絶対的最小点（absolute minimum point）などと呼びます。また、\(f\)の\(X\)における最小点\(\boldsymbol{a}\)が存在する場合、\(f\)が点\(\boldsymbol{a}\)に対して定める値\(f\left( \boldsymbol{a}\right) \)を\(f\)の\(X\)における最小値（minimum value）や大域的最小値（global minimum value）もしくは絶対的最小値（absolute minimum value）などと呼び、これを、\begin{equation*}\min_{\boldsymbol{x}\in X}f\left( \boldsymbol{x}\right)
\end{equation*}で表記します。

関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)の値域は、\begin{equation*}f\left( X\right) =\left\{ f\left( \boldsymbol{x}\right) \in \mathbb{R} \ |\ \boldsymbol{x}\in X\right\}
\end{equation*}と定義される\(\mathbb{R} \)の部分集合ですが、これと関数\(f\)の最小値の間には以下の関係\begin{equation*}\min_{\boldsymbol{x}\in X}f\left( \boldsymbol{x}\right) =\min f\left(
X\right)
\end{equation*}が成り立ちます。つまり、\(f\)の\(X\)における最小値は\(f\)の値域の最小値と一致します。一般に、\(\mathbb{R} \)の非空な部分集合は最小値を持つとは限りませんが、存在する場合には必ず1つの実数として定まります。したがって、\(\min f\left( X\right) \)やそれと一致する\(\min\limits_{\boldsymbol{x}\in X}f\left( \boldsymbol{x}\right) \)もまた存在するとは限らない一方、存在する場合には必ず1つの実数として定まります。

関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)が\(X\)において最小値をとらない場合には、\(f\)の\(X\)における最小点は存在しません。また、関数\(f\)が\(X\)において最小値をとる場合、その最小値は1つの実数として定まる一方、最小点は一意的であるとは限りません。つまり、異なる点\(\boldsymbol{a},\boldsymbol{a}^{\prime }\in X\)について、\begin{equation*}\min_{\boldsymbol{x}\in X}f\left( \boldsymbol{x}\right) =f\left( \boldsymbol{a}\right) =f\left( \boldsymbol{a}^{\prime }\right)
\end{equation*}が成り立つ状況が起こり得るということです。以上を踏まえた上で、\(f\)の\(X\)における最小点からなる集合を、\begin{equation*}\underset{\boldsymbol{x}\in X}{\mathrm{argmin}} f\left( \boldsymbol{x}\right)
=\left\{ \boldsymbol{a}\in X\ |\ f\left( \boldsymbol{a}\right) =\min_{\boldsymbol{x}\in X}f\left( \boldsymbol{x}\right) \right\}
\end{equation*}で表記します。

例（関数の最小点と最小値）

関数\(f:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f\left( x,y\right) =x^{2}+y^{2}
\end{equation*}を定めるものとします。\(f\)のグラフは以下の通りです。

この関数\(f\)の定義域\(\mathbb{R} ^{2}\)における最小点からなる集合は、\begin{equation*}\underset{\left( x,y\right) \in \mathbb{R} ^{2}}{\mathrm{argmin}}f\left( x,y\right) =\left\{ \left( 0,0\right)
\right\}
\end{equation*}であり、最小値は、\begin{eqnarray*}
\min_{\left( x,y\right) \in \mathbb{R} ^{2}}f\left( x,y\right) &=&f\left( 0,0\right) \\
&=&0^{2}+0^{2} \\
&=&0
\end{eqnarray*}です。

例（関数の最小点と最小値）

関数\(f:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f\left( x,y\right) =x+y
\end{equation*}を定めるものとします。\(f\)のグラフは以下の通りです。

この関数\(f\)は定義域\(\mathbb{R} ^{2}\)において最小点を持ちません。\(x\)や\(y\)が小さくなるにつれて\(f\left(x,y\right) \)はいくらでも小さくなるからです。したがって、\begin{equation*}\underset{\left( x,y\right) \in \mathbb{R} ^{2}}{\mathrm{argmin}}f\left( x,y\right) =\phi
\end{equation*}が成り立ちます。一方、この関数\(f\)の定義域を制限して、\begin{equation*}f:\mathbb{R} ^{2}\supset \left[ 0,1\right] \times \left[ 0,1\right] \rightarrow \mathbb{R} \end{equation*}とすれば、\(f\)の値域は、\begin{eqnarray*}f\left( \left[ 0,1\right] \times \left[ 0,1\right] \right) &=&\left\{
f\left( x,y\right) \in \mathbb{R} \ |\ \left( x,y\right) \in \left[ 0,1\right] \times \left[ 0,1\right] \right\} \\
&=&\left\{ x+y\in \mathbb{R} \ |\ \left( x,y\right) \in \left[ 0,1\right] \times \left[ 0,1\right] \right\} \\
&=&\left[ 0,1\right] \end{eqnarray*}となるため、\(f\)の定義域\(\left[ 0,1\right] \times \left[ 0,1\right] \)における最小点からなる集合は、\begin{equation*}\underset{\left( x,y\right) \in \left[ 0,1\right] \times \left[ 0,1\right] }{\mathrm{argmin}}f\left( x,y\right) =\left\{ \left( 0,0\right) \right\}
\end{equation*}であり、最小値は、\begin{eqnarray*}
\min_{\left( x,y\right) \in \left[ 0,1\right] \times \left[ 0,1\right] }f\left( x,y\right) &=&f\left( 0,0\right) \\
&=&0+0 \\
&=&0
\end{eqnarray*}となります。この例が示唆するように、同じ関数でも定義域が変われば最大値や最大点もまた変化します。

関数が最大値や最小値をとるための条件

コンパクト集合上に定義された多変数関数が連続である場合には、最大値・最小値の定理より、その関数は定義域において最大値や最小値をとることが保証されます。ただ、多変数関数の定義域はコンパクト集合であるとは限らないため、定義域がコンパクト集合であるとは限らない状況において、多変数関数が最大値や最小値をとるかどうかを判定する手法が要請されます。また、多変数関数が定義域において最大値や最小値をとることが分かっている場合においても、最大点や最小点は必ずしも明らかではありません。したがって、多変数関数の最大点や最小点を特定する手法もまた要請されます。

微分可能な多変数関数を対象とした場合、多変数関数が定義域において最大値や最小値をとるための条件や、定義域の点が最大点や最小点であるための条件が知られています。以降ではそのような条件について学びます。

演習問題