多変数関数の極大点とヘッセ行列の符号の関係
多変数関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)の定義域上の点\(\boldsymbol{a}\in X\)が最大点であることは、変数\(\boldsymbol{x}\)が定義域\(X\)上の点をとり得る状況において、その中でも点\(\boldsymbol{a}\in X\)において\(f\left( \boldsymbol{x}\right) \)の値が最大化されること、すなわち、\begin{equation*}\exists \boldsymbol{a}\in X,\ \forall \boldsymbol{x}\in X:f\left(
\boldsymbol{a}\right) \geq f\left( \boldsymbol{x}\right)
\end{equation*}が成り立つことを意味します。
多変数関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)の定義域上の点\(\boldsymbol{a}\in X\)が極大点であることとは、変数\(\boldsymbol{x}\)がとり得る値の範囲を点\(\boldsymbol{a}\)を中心とする何らかの近傍に制限した場合には点\(\boldsymbol{a}\)が最大点になること、すなわち、\begin{equation*}\exists \varepsilon >0,\ \forall \boldsymbol{x}\in N_{\varepsilon }\left(
\boldsymbol{a}\right) \cap X:f\left( \boldsymbol{a}\right) \geq f\left(
\boldsymbol{x}\right)
\end{equation*}が成り立つことを意味します。ただし、\(N_{\varepsilon }\left( \boldsymbol{a}\right) \)は点\(\boldsymbol{a}\)を中心とする半径\(\varepsilon \)の近傍であり、\begin{equation*}N_{\varepsilon }\left( \boldsymbol{a}\right) =\left\{ \boldsymbol{x}\in \mathbb{R} ^{n}\ |\ \left\Vert \boldsymbol{x}-\boldsymbol{a}\right\Vert <\varepsilon
\right\}
\end{equation*}です。
多変数関数\(f\)の定義域上の点\(\boldsymbol{a}\)が最大点である場合、その点\(\boldsymbol{a}\)は極大点でもあります。つまり、極大点だけが最大点の候補となり得るため、すべての極大点を特定した上で、その中でも\(f\left( \boldsymbol{x}\right) \)の値を最大化するものを特定すれば、それは最大点になります。
多変数関数\(f\)の定義域の内点が極大点であるための必要条件は以下の通りです。
&&\left( b\right) \ \forall \boldsymbol{h}\in \mathbb{R} ^{n}\backslash \left\{ \boldsymbol{0}\right\} :\boldsymbol{h}^{t}H_{f}\left(
\boldsymbol{a}\right) \boldsymbol{h}\leq 0
\end{eqnarray*}がともに成り立つ。
多変数関数\(f\)が\(C^{2}\)級である場合、そのヘッセ行列\(H_{f}\left( \boldsymbol{a}\right) \)は対称行列になります。対称行列\(H_{f}\left( \boldsymbol{a}\right) \)に関しては以下の関係\begin{eqnarray*}H_{f}\left( \boldsymbol{a}\right) \text{は半負定値} &\Leftrightarrow &H_{f}\left( \boldsymbol{a}\right) \text{の固有値がすべて非正} \\
&\Leftrightarrow &\left\{
\begin{array}{l}
H_{f}\left( \boldsymbol{a}\right) \text{のすべての奇数次の主座小行列式が非正}\wedge \\
H_{f}\left( \boldsymbol{a}\right) \text{のすべての偶数次の主座小行列式が非負}\end{array}\right.
\end{eqnarray*}が成り立つため、固有値や主座小行列式の符号を観察することによって\(H_{f}\left( \boldsymbol{a}\right) \)が半負定値であることを判定できます。
\end{equation*}を定めるものとします。\(f\)は多変数の多項式関数であるため\(C^{2}\)級です。点\(\left( 0,0\right) \)はこの関数\(f\)の極大点です。実際、\begin{equation*}f\left( 0,0\right) =0
\end{equation*}である一方で、ゼロベクトルに限りなく近い点\(\left( h_{1},h_{2}\right) \in \mathbb{R} ^{2}\backslash \left\{ \left( 0,0\right) \right\} \)を任意に選んだとき、\begin{equation*}f\left( h_{1},h_{2}\right) =-h_{1}^{2}-h_{2}^{2}<0
\end{equation*}となるため、\begin{equation*}
f\left( 0,0\right) \geq f\left( h_{1},h_{2}\right)
\end{equation*}が成り立つからです。したがって、先の命題より、点\(\left( 0,0\right) \)は局所最大化のための必要条件を満たすはずです。実際、点\(\left(x,y\right) \in \mathbb{R} ^{2}\)における勾配ベクトルは、\begin{equation*}\nabla f\left( x,y\right) =\left( \frac{\partial f\left( x,y\right) }{\partial x},\frac{\partial f\left( x,y\right) }{\partial y}\right) =\left(
-2x,-2y\right)
\end{equation*}であることから、\begin{equation*}
\nabla f\left( 0,0\right) =\left( 0,0\right)
\end{equation*}が成り立ちます。また、点\(\left( 0,0\right) \)におけるヘッセ行列は、\begin{equation*}H_{f}\left( 0,0\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( 0,0\right) & f_{xy}^{\prime \prime }\left(
0,0\right) \\
f_{yx}^{\prime \prime }\left( 0,0\right) & f_{yy}^{\prime \prime }\left(
0,0\right)
\end{pmatrix}=\begin{pmatrix}
-2 & 0 \\
0 & -2\end{pmatrix}\end{equation*}であるため、\(H_{f}\left( 0,0\right) \)の\(1\)次の主座小行列式は、\begin{eqnarray*}\left\vert A_{1}\right\vert &=&\left\vert -2\right\vert =-2\leq 0 \\
\left\vert A_{2}\right\vert &=&\left\vert -2\right\vert =-2\leq 0
\end{eqnarray*}を満たし、\(2\)次の主座小行列式は、\begin{equation*}\left\vert A_{1,2}\right\vert =\begin{vmatrix}
-2 & 0 \\
0 & -2\end{vmatrix}=4\geq 0
\end{equation*}を満たすため\(H_{f}\left( 0,0\right) \)は半負定値をとります。したがって点\(\left(0,0\right) \)は最大化のための2階の必要条件を満たします。以上の結果は先の命題の主張と整合的です。
多変数関数\(f\)の定義域の内点が極大点であるための十分条件は以下の通りです。
&&\left( b\right) \ \forall \boldsymbol{h}\in \mathbb{R} ^{n}\backslash \left\{ \boldsymbol{0}\right\} :\boldsymbol{h}^{t}H_{f}\left(
\boldsymbol{a}\right) \boldsymbol{h}<0
\end{eqnarray*}がともに成り立つならば、点\(\boldsymbol{a}\)は\(f\)の極大点である。
多変数関数\(f\)が\(C^{2}\)級である場合、そのヘッセ行列\(H_{f}\left( \boldsymbol{a}\right) \)は対称行列になります。対称行列\(H_{f}\left( \boldsymbol{a}\right) \)に関しては以下の関係\begin{eqnarray*}H_{f}\left( \boldsymbol{a}\right) \text{は負定値}
&\Leftrightarrow &H_{f}\left( \boldsymbol{a}\right) \text{の固有値がすべて負} \\
&\Leftrightarrow &\left\{
\begin{array}{l}
H_{f}\left( \boldsymbol{a}\right) \text{のすべての奇数次の主座小行列式が負}\wedge \\
H_{f}\left( \boldsymbol{a}\right) \text{のすべての偶数次の主座小行列式が正}\end{array}\right. \\
&\Leftrightarrow &\left\{
\begin{array}{l}
H_{f}\left( \boldsymbol{a}\right) \text{のすべての奇数次の狭義の主座小行列式が負}\wedge \\
H_{f}\left( \boldsymbol{a}\right) \text{のすべての偶数次の狭義の主座小行列式が正}\end{array}\right.
\end{eqnarray*}が成り立つため、固有値や主座小行列式、もしくは狭義の主座小行列式の符号を観察することによって\(H_{f}\left( \boldsymbol{a}\right) \)が負定値であることを判定できます。
\end{equation*}を定めるものとします。\(f\)は多変数の多項式関数であるため\(C^{2}\)級です。先に確認したように、点\(\left( 0,0\right) \)は\(f\)の極大点であるとともに、局所最大化のための必要条件を満たします。加えて、点\(\left( 0,0\right) \)が局所最大化のための十分条件を満たすことを示します。点\(\left( 0,0\right) \)におけるヘッセ行列は、\begin{equation*}H_{f}\left( 0,0\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( 0,0\right) & f_{xy}^{\prime \prime }\left(
0,0\right) \\
f_{yx}^{\prime \prime }\left( 0,0\right) & f_{yy}^{\prime \prime }\left(
0,0\right)
\end{pmatrix}=\begin{pmatrix}
-2 & 0 \\
0 & -2\end{pmatrix}\end{equation*}であるため、\(H_{f}\left( 0,0\right) \)の\(1\)次の狭義の主座小行列式は、\begin{equation*}\left\vert A_{1}\right\vert =\left\vert -2\right\vert =-2<0
\end{equation*}を満たし、\(2\)次の狭義の主座小行列式は、\begin{equation*}\left\vert A_{2}\right\vert =\begin{vmatrix}
-2 & 0 \\
0 & -2\end{vmatrix}=4>0
\end{equation*}を満たすため\(H_{f}\left( 0,0\right) \)は負定値をとり、したがって点\(\left( 0,0\right) \)は最大化のための十分条件を満たします。以上の結果は先の命題の主張と整合的です。
多変数関数の極小点とヘッセ行列の符号の関係
多変数関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)の定義域上の点\(\boldsymbol{a}\in X\)が最小点であることは、変数\(\boldsymbol{x}\)が定義域\(X\)上の点をとり得る状況において、その中でも点\(\boldsymbol{a}\in X\)において\(f\left( \boldsymbol{x}\right) \)の値が最小化されること、すなわち、\begin{equation*}\exists \boldsymbol{a}\in X,\ \forall \boldsymbol{x}\in X:f\left(
\boldsymbol{a}\right) \leq f\left( \boldsymbol{x}\right)
\end{equation*}が成り立つことを意味します。
多変数関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)の定義域上の点\(\boldsymbol{a}\in X\)が極小点であることとは、変数\(\boldsymbol{x}\)がとり得る値の範囲を点\(\boldsymbol{a}\)を中心とする何らかの近傍に制限した場合には点\(\boldsymbol{a}\)が最小点になること、すなわち、\begin{equation*}\exists \varepsilon >0,\ \forall \boldsymbol{x}\in N_{\varepsilon }\left(
\boldsymbol{a}\right) \cap X:f\left( \boldsymbol{a}\right) \leq f\left(
\boldsymbol{x}\right)
\end{equation*}が成り立つことを意味します。ただし、\(N_{\varepsilon }\left( \boldsymbol{a}\right) \)は点\(\boldsymbol{a}\)を中心とする半径\(\varepsilon \)の近傍であり、\begin{equation*}N_{\varepsilon }\left( \boldsymbol{a}\right) =\left\{ \boldsymbol{x}\in \mathbb{R} ^{n}\ |\ \left\Vert \boldsymbol{x}-\boldsymbol{a}\right\Vert <\varepsilon
\right\}
\end{equation*}です。
関数\(f\)の定義域上の点\(\boldsymbol{a}\)が最小点である場合、その点\(\boldsymbol{a}\)は極小点でもあります。つまり、極小点だけが最小点の候補となり得るため、すべての極小点を特定した上で、その中でも\(f\left( \boldsymbol{x}\right) \)の値を最小化するものを特定すれば、それは最小点になります。
多変数関数\(f\)の定義域の内点が極小点であるための必要条件は以下の通りです。
&&\left( b\right) \ \forall \boldsymbol{h}\in \mathbb{R} ^{n}\backslash \left\{ \boldsymbol{0}\right\} :\boldsymbol{h}^{t}H_{f}\left(
\boldsymbol{a}\right) \boldsymbol{h}\geq 0
\end{eqnarray*}がともに成り立つ。
多変数関数\(f\)が\(C^{2}\)級である場合、そのヘッセ行列\(H_{f}\left( \boldsymbol{a}\right) \)は対称行列になります。対称行列\(H_{f}\left( \boldsymbol{a}\right) \)に関しては以下の関係\begin{eqnarray*}H_{f}\left( \boldsymbol{a}\right) \text{は半正定値} &\Leftrightarrow &H_{f}\left( \boldsymbol{a}\right) \text{の固有値がすべて非負} \\
&\Leftrightarrow &H_{f}\left( \boldsymbol{a}\right) \text{のすべての主座小行列式が非負}
\end{eqnarray*}が成り立つため、固有値や主座小行列式の符号を観察することによって\(H_{f}\left( \boldsymbol{a}\right) \)が半正定値であることを判定できます。
\end{equation*}を定めるものとします。\(f\)は多変数の多項式関数であるため\(C^{2}\)級です。点\(\left( 0,0\right) \)はこの関数\(f\)の極小点です。実際、\begin{equation*}f\left( 0,0\right) =0
\end{equation*}である一方で、ゼロベクトルに限りなく近い点\(\left( h_{1},h_{2}\right) \in \mathbb{R} ^{2}\backslash \left\{ \left( 0,0\right) \right\} \)を任意に選んだとき、\begin{equation*}f\left( h_{1},h_{2}\right) =h_{1}^{2}+h_{2}^{2}>0
\end{equation*}となるため、\begin{equation*}
f\left( 0,0\right) \leq f\left( h_{1},h_{2}\right)
\end{equation*}が成り立つからです。したがって、先の命題より、点\(\left( 0,0\right) \)は局所最小化のための必要条件を満たすはずです。実際、点\(\left(x,y\right) \in \mathbb{R} ^{2}\)における勾配ベクトルは、\begin{equation*}\nabla f\left( x,y\right) =\left( \frac{\partial f\left( x,y\right) }{\partial x},\frac{\partial f\left( x,y\right) }{\partial y}\right) =\left(
2x,2y\right)
\end{equation*}であることから、\begin{equation*}
\nabla f\left( 0,0\right) =\left( 0,0\right)
\end{equation*}が成り立ちます。点\(\left( 0,0\right) \)におけるヘッセ行列は、\begin{equation*}H_{f}\left( 0,0\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( 0,0\right) & f_{xy}^{\prime \prime }\left(
0,0\right) \\
f_{yx}^{\prime \prime }\left( 0,0\right) & f_{yy}^{\prime \prime }\left(
0,0\right)
\end{pmatrix}=\begin{pmatrix}
2 & 0 \\
0 & 2\end{pmatrix}\end{equation*}であるため、\(H_{f}\left( 0,0\right) \)の1次の主座小行列式は、\begin{eqnarray*}\left\vert A_{1}\right\vert &=&\left\vert 2\right\vert =2\geq 0 \\
\left\vert A_{2}\right\vert &=&\left\vert 2\right\vert =2\geq 0
\end{eqnarray*}を満たし、2次の主座小行列式は、\begin{equation*}
\left\vert A_{1,2}\right\vert =\begin{vmatrix}
2 & 0 \\
0 & 2\end{vmatrix}=4\geq 0
\end{equation*}を満たすため\(H_{f}\left( 0,0\right) \)は半正定値をとります。したがって点\(\left(0,0\right) \)は最小化のための必要条件を満たします。以上の結果は先の命題の主張と整合的です。
多変数関数\(f\)の定義域の内点が極小点であるための十分条件は以下の通りです。
&&\left( b\right) \ \forall \boldsymbol{h}\in \mathbb{R} ^{n}\backslash \left\{ \boldsymbol{0}\right\} :\boldsymbol{h}^{t}H_{f}\left(
\boldsymbol{a}\right) \boldsymbol{h}>0
\end{eqnarray*}がともに成り立つならば、点\(\boldsymbol{a}\)は\(f\)の極小点である。
多変数関数\(f\)が\(C^{2}\)級である場合、そのヘッセ行列\(H_{f}\left( \boldsymbol{a}\right) \)は対称行列になります。対称行列\(H_{f}\left( \boldsymbol{a}\right) \)に関しては以下の関係\begin{eqnarray*}H_{f}\left( \boldsymbol{a}\right) \text{は正定値}
&\Leftrightarrow &H_{f}\left( \boldsymbol{a}\right) \text{の固有値がすべて正} \\
&\Leftrightarrow &H_{f}\left( \boldsymbol{a}\right) \text{のすべての主座小行列式が正} \\
&\Leftrightarrow &H_{f}\left( \boldsymbol{a}\right) \text{のすべての狭義の主座小行列式が正}
\end{eqnarray*}が成り立つため、固有値や主座小行列式、もしくは狭義の主座小行列式の符号を観察することによって\(H_{f}\left( \boldsymbol{a}\right) \)が正定値であることを判定できます。
\end{equation*}を定めるものとします。\(f\)は多変数の多項式関数であるため\(C^{2}\)級です。先に確認したように、点\(\left( 0,0\right) \)は\(f\)の極大点であるとともに、局所最小化のための必要条件を満たします。加えて、点\(\left( 0,0\right) \)が局所最小化のための十分条件を満たすことを示します。点\(\left( 0,0\right) \)におけるヘッセ行列は、\begin{equation*}H_{f}\left( 0,0\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( 0,0\right) & f_{xy}^{\prime \prime }\left(
0,0\right) \\
f_{yx}^{\prime \prime }\left( 0,0\right) & f_{yy}^{\prime \prime }\left(
0,0\right)
\end{pmatrix}=\begin{pmatrix}
2 & 0 \\
0 & 2\end{pmatrix}\end{equation*}であるため、\(H_{f}\left( 0,0\right) \)の1次の狭義の主座小行列式は、\begin{equation*}\left\vert A_{1}\right\vert =\left\vert 2\right\vert =2>0
\end{equation*}を満たし、2次の狭義の主座小行列式は、\begin{equation*}
\left\vert A_{2}\right\vert =\begin{vmatrix}
2 & 0 \\
0 & 2\end{vmatrix}=4>0
\end{equation*}を満たすため\(H_{f}\left( 0,0\right) \)は正定値であり、したがって点\(\left( 0,0\right) \)は最小化のための十分条件を満たします。以上の結果は先の命題の主張と整合的です。
多変数関数の鞍点とヘッセ行列の符号の関係
多変数関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)の定義域上の点\(\boldsymbol{a}\in X\)が停留点である状況を想定します。つまり、\(f\)は点\(\boldsymbol{a}\)において偏微分可能であるとともに、\begin{equation*}\nabla f\left( \boldsymbol{a}\right) =\boldsymbol{0}
\end{equation*}が成り立つということです。加えて、点\(\boldsymbol{a}\)が極大点と極小点のどちらでもない場合には、そのような点\(\boldsymbol{a}\)を鞍点（saddle point）と呼びます。
点\(\boldsymbol{a}\)が極大点ではないことは、\begin{equation*}\forall \varepsilon >0,\ \exists \boldsymbol{x}\in N_{\varepsilon }\left(
\boldsymbol{a}\right) \cap X:f\left( \boldsymbol{a}\right) >f\left(
\boldsymbol{x}\right)
\end{equation*}が成り立つことを意味し、点\(\boldsymbol{a}\)が極小点ではないことは、\begin{equation*}\forall \varepsilon >0,\ \exists \boldsymbol{x}\in N_{\varepsilon }\left(
\boldsymbol{a}\right) \cap X:f\left( \boldsymbol{a}\right) <f\left(
\boldsymbol{x}\right)
\end{equation*}が成り立つことを意味するため、点\(\boldsymbol{a}\)が鞍点であることは、\begin{equation*}\forall \varepsilon >0,\ \exists \boldsymbol{x}_{1},\boldsymbol{x}_{2}\in
N_{\varepsilon }\left( \boldsymbol{a}\right) \cap X:f\left( \boldsymbol{x}_{1}\right) <f\left( \boldsymbol{a}\right) <f\left( \boldsymbol{x}_{2}\right)
\end{equation*}が成り立つことを意味します。
多変数関数\(f\)の定義域の内点が鞍点であるための十分条件は以下の通りです。
&&\left( b\right) \ H_{f}\left( \boldsymbol{a}\right) \text{は不定値}
\end{eqnarray*}がともに成り立つならば、点\(\boldsymbol{a}\)は\(f\)の鞍点である。ただし、\(H_{f}\left( \boldsymbol{a}\right) \)は\(f\)の点\(\boldsymbol{a}\)におけるヘッセ行列である。
多変数関数\(f\)が\(C^{2}\)級である場合、そのヘッセ行列\(H_{f}\left( \boldsymbol{a}\right) \)は対称行列になります。対称行列\(H_{f}\left( \boldsymbol{a}\right) \)に関しては以下の関係\begin{eqnarray*}H_{f}\left( \boldsymbol{a}\right) \text{は不定値}
&\Leftrightarrow &H_{f}\left( \boldsymbol{a}\right) \text{の固有値の中に正と負が存在する} \\
&\Leftrightarrow &\left\{
\begin{array}{l}
H_{f}\left( \boldsymbol{a}\right) \text{の奇数次の主座小行列式の中に正と負が存在する}\vee \\
H_{f}\left( \boldsymbol{a}\right) \text{の偶数次の主座小行列式の中に負が存在する}\end{array}\right.
\end{eqnarray*}が成り立つため、固有値や主座小行列式の符号を観察することによって\(H_{f}\left( \boldsymbol{a}\right) \)が不定値であることを判定できます。
\end{equation*}を定めるものとします。\(f\)は多変数の多項式関数であるため\(C^{2}\)級です。点\(\left( x,y\right) \in \mathbb{R} ^{2}\)における勾配ベクトルは、\begin{equation*}\nabla f\left( x,y\right) =\left( \frac{\partial f\left( x,y\right) }{\partial x},\frac{\partial f\left( x,y\right) }{\partial y}\right) =\left(
-2x,2y\right)
\end{equation*}であることから、\begin{equation*}
\nabla f\left( 0,0\right) =\left( 0,0\right)
\end{equation*}が成り立ちます。点\(\left( x,y\right) \in \mathbb{R} ^{2}\)におけるヘッセ行列は、\begin{equation*}H_{f}\left( x,y\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y\right) & f_{xy}^{\prime \prime }\left(
x,y\right) \\
f_{yx}^{\prime \prime }\left( x,y\right) & f_{yy}^{\prime \prime }\left(
x,y\right)
\end{pmatrix}=\begin{pmatrix}
-2 & 0 \\
0 & 2\end{pmatrix}\end{equation*}であることから、点\(\left( 0,0\right) \)におけるヘッセ行列は、\begin{equation*}H_{f}\left( 0,0\right) =\begin{pmatrix}
-2 & 0 \\
0 & 2\end{pmatrix}\end{equation*}です。偶数次の主座小行列式について、\begin{eqnarray*}
\left\vert A_{1}\right\vert &=&\left\vert -2\right\vert =-2<0 \\
\left\vert A_{2}\right\vert &=&\left\vert 2\right\vert =2>0
\end{eqnarray*}が成り立つため\(H_{f}\left(0,0\right) \)は不定値をとります。したがって点\(\left(0,0\right) \)は鞍点です。
演習問題
\end{equation*}を定めるものとします。\(f\)の停留点を求めた上で、それらを極大点、極小点、鞍点に分類してください。
\end{equation*}を定めるものとします。\(f\)の停留点を求めた上で、それらを極大点、極小点、鞍点に分類してください。
\end{equation*}を定めるものとします。\(f\)の停留点を求めた上で、それらを極大点、極小点、鞍点に分類してください。
プレミアム会員専用コンテンツです
【ログイン】【会員登録】