WIIS

固有値と固有ベクトル

2次形式の応用例:多変数関数の凹凸判定

目次

Mailで保存
Xで共有

多変数の凸関数とヘッセ行列の符号の関係

ユークリッド空間\(\mathbb{R} ^{n}\)もしくはその部分集合である凸集合が定義域であるような多変数関数\begin{equation*}f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \end{equation*}が凸関数であることは、以下の条件\begin{equation*}
\forall \boldsymbol{x},\boldsymbol{y}\in X,\ \forall \lambda \in \left[ 0,1\right] :\lambda f\left( \boldsymbol{x}\right) +\left( 1-\lambda \right)
f\left( \boldsymbol{y}\right) \geq f\left( \lambda \boldsymbol{x}+\left(
1-\lambda \right) \boldsymbol{y}\right)
\end{equation*}が成り立つこととして定義されます。

多変数関数\(f\)が\(C^{2}\)級である場合には、\(f\)が凸関数であることを以下のように特徴づけられます。

命題(2階連続微分可能な多変数の凸関数)
非空の凸な開集合上に定義された関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)が\(C^{2}\)級であるものとする。このとき、任意の点\(\boldsymbol{x}\in X\)における\(f\)のヘッセ行列\(H_{f}\left( \boldsymbol{x}\right) \)が半正定値であることは、すなわち、\begin{equation*}\forall \boldsymbol{x}\in X,\ \forall \boldsymbol{h}\in \mathbb{R} ^{n}\backslash \left\{ \boldsymbol{0}\right\} :\boldsymbol{h}^{t}H_{f}\left( \boldsymbol{x}\right) \boldsymbol{h}\geq 0
\end{equation*}が成り立つことは、\(f\)が凸関数であるための必要十分条件である。ただし、\begin{equation*}H_{f}\left( \boldsymbol{x}\right) =\begin{pmatrix}
f_{x_{1}x_{1}}^{\prime \prime }\left( \boldsymbol{x}\right) & \cdots &
f_{x_{1}x_{n}}^{\prime \prime }\left( \boldsymbol{x}\right) \\
\vdots & \ddots & \vdots \\
f_{x_{n}x_{1}}^{\prime \prime }\left( \boldsymbol{x}\right) & \cdots &
f_{x_{n}x_{n}}^{\prime \prime }\left( \boldsymbol{x}\right)
\end{pmatrix}=\begin{pmatrix}
\frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{1}\partial
x_{1}} & \cdots & \frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{n}\partial x_{1}} \\
\vdots & \ddots & \vdots \\
\frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{1}\partial
x_{n}} & \cdots & \frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{n}\partial x_{n}}\end{pmatrix}\end{equation*}である。

多変数関数\(f\)が\(C^{2}\)級である場合、そのヘッセ行列\(H_{f}\left( \boldsymbol{x}\right) \)は対称行列になります。対称行列\(H_{f}\left( \boldsymbol{x}\right) \)に関しては以下の関係\begin{eqnarray*}H_{f}\left( \boldsymbol{x}\right) \text{は半正定値} &\Leftrightarrow &H_{f}\left( \boldsymbol{x}\right) \text{の固有値がすべて非負} \\
&\Leftrightarrow &H_{f}\left( \boldsymbol{x}\right) \text{のすべての主座小行列式が非負}
\end{eqnarray*}が成り立つため、固有値や主座小行列式の符号を観察することによって\(H_{f}\left( \boldsymbol{x}\right) \)が半正定値であることを判定できます。

例(多変数の凸関数)
関数\(f:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f\left( x,y\right) =x^{2}+y^{2}
\end{equation*}を定めるものとします。\(f\)の定義域\(\mathbb{R} ^{2}\)は非空の凸な開集合です。\(f\)は多変数の多項式関数であるため\(C^{2}\)級であり、点\(\left( x,y\right) \in \mathbb{R} ^{2}\)におけるヘッセ行列は、\begin{equation*}H_{f}\left( x,y\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y\right) & f_{xy}^{\prime \prime }\left(
x,y\right) \\
f_{yx}^{\prime \prime }\left( x,y\right) & f_{yy}^{\prime \prime }\left(
x,y\right)
\end{pmatrix}=\begin{pmatrix}
2 & 0 \\
0 & 2\end{pmatrix}\end{equation*}です。\(H_{f}\left( x,y\right) \)の1次の主座小行列式は、\begin{eqnarray*}\left\vert A_{1}\right\vert &=&\left\vert 2\right\vert =2\geq 0 \\
\left\vert A_{2}\right\vert &=&\left\vert 2\right\vert =2\geq 0
\end{eqnarray*}を満たし、2次の主座小行列式は、\begin{equation*}
\left\vert A_{1,2}\right\vert =\begin{vmatrix}
2 & 0 \\
0 & 2\end{vmatrix}=4\geq 0
\end{equation*}を満たすため\(H_{f}\left( x,y\right) \)は半正定値です。任意の点\(\left( x,y\right) \in \mathbb{R} ^{2}\)について同様であるため\(f\)は凸関数です。
例(多変数の凸関数)
関数\(f:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f\left( x,y\right) =x+y
\end{equation*}を定めるものとします。\(f\)の定義域\(\mathbb{R} ^{2}\)は非空の凸な開集合です。\(f\)は多変数の多項式関数であるため\(C^{2}\)級であり、点\(\left( x,y\right) \in \mathbb{R} ^{2}\)におけるヘッセ行列は、\begin{equation*}H_{f}\left( x,y\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y\right) & f_{xy}^{\prime \prime }\left(
x,y\right) \\
f_{yx}^{\prime \prime }\left( x,y\right) & f_{yy}^{\prime \prime }\left(
x,y\right)
\end{pmatrix}=\begin{pmatrix}
0 & 0 \\
0 & 0\end{pmatrix}\end{equation*}です。\(H_{f}\left( x,y\right) \)の1次の主座小行列式は、\begin{eqnarray*}\left\vert A_{1}\right\vert &=&\left\vert 0\right\vert =0 \\
\left\vert A_{2}\right\vert &=&\left\vert 0\right\vert =0
\end{eqnarray*}を満たし、2次の主座小行列式は、\begin{equation*}
\left\vert A_{1,2}\right\vert =\begin{vmatrix}
0 & 0 \\
0 & 0\end{vmatrix}=0
\end{equation*}を満たすため\(H_{f}\left( x,y\right) \)は半正定値です。任意の点\(\left( x,y\right) \in \mathbb{R} ^{2}\)について同様であるため\(f\)は凸関数です。
例(多変数の凸関数)
関数\(f:\mathbb{R} ^{3}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{equation*}f\left( x,y,z\right) =x^{2}+2y^{2}+3z^{2}+2xy+2xz
\end{equation*}を定めるものとします。\(f\)の定義域\(\mathbb{R} ^{3}\)は非空の凸な開集合です。\(f\)は多変数の多項式関数であるため\(C^{2}\)級であり、勾配ベクトル場\(\nabla f:\mathbb{R} ^{3}\rightarrow \mathbb{R} ^{3}\)はそれぞれの\(\left( x,y,z\right)\in \mathbb{R} ^{3}\)に対して、\begin{eqnarray*}\nabla f\left( x,y,z\right) &=&\left( \frac{\partial f\left( x,y,z\right) }{\partial x},\frac{\partial f\left( x,y,z\right) }{\partial y},\frac{\partial
f\left( x,y,z\right) }{\partial z}\right) \\
&=&\left( 2x+2y+2z,4y+2x,6z+2x\right)
\end{eqnarray*}を定め、ヘッセ行列関数\(H_{f}:\mathbb{R} ^{3}\rightarrow M_{3,3}\left( \mathbb{R} \right) \)はそれぞれの点\(\left(x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{eqnarray*}H_{f}\left( x,y,z\right) &=&\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y,z\right) & f_{xy}^{\prime \prime }\left(
x,y,z\right) & f_{xz}^{\prime \prime }\left( x,y,z\right) \\
f_{yx}^{\prime \prime }\left( x,y,z\right) & f_{yy}^{\prime \prime }\left(
x,y,z\right) & f_{yz}^{\prime \prime }\left( x,y,z\right) \\
f_{zx}^{\prime \prime }\left( x,y,z\right) & f_{zy}^{\prime \prime }\left(
x,y,z\right) & f_{zz}^{\prime \prime }\left( x,y,z\right)
\end{pmatrix}
\\
&=&\begin{pmatrix}
2 & 2 & 2 \\
2 & 4 & 0 \\
2 & 0 & 6\end{pmatrix}\end{eqnarray*}を定めます。\(H_{f}\left( x,y,z\right) \)の1次の主座小行列式は、\begin{eqnarray*}\left\vert A_{1}\right\vert &=&\left\vert 2\right\vert =2\geq 0 \\
\left\vert A_{2}\right\vert &=&\left\vert 4\right\vert =4\geq 0 \\
\left\vert A_{3}\right\vert &=&\left\vert 6\right\vert =6\geq 0
\end{eqnarray*}を満たし、2次の主座小行列式は、\begin{eqnarray*}
\left\vert A_{1,2}\right\vert &=&\begin{vmatrix}
2 & 2 \\
2 & 4\end{vmatrix}=4\geq 0 \\
\left\vert A_{2,3}\right\vert &=&\begin{vmatrix}
4 & 0 \\
0 & 6\end{vmatrix}=24\geq 0 \\
\left\vert A_{1,3}\right\vert &=&\begin{vmatrix}
2 & 2 \\
2 & 6\end{vmatrix}=8\geq 0
\end{eqnarray*}を満たし、3次の主座小行列式は、\begin{equation*}
\left\vert A_{1,2,3}\right\vert =\begin{vmatrix}
2 & 2 & 2 \\
2 & 4 & 0 \\
2 & 0 & 6\end{vmatrix}=8\geq 0
\end{equation*}を満たすため\(H_{f}\left( x,y,z\right) \)は半正定値です。任意の点\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)について同様であるため\(f\)は凸関数です。

 

多変数の狭義凸関数とヘッセ行列の符号の関係

ユークリッド空間\(\mathbb{R} ^{n}\)もしくはその部分集合である凸集合が定義域であるような多変数関数\begin{equation*}f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \end{equation*}が狭義凸関数であることは、以下の条件\begin{equation*}
\forall \boldsymbol{x}\in X,\ \forall \boldsymbol{y}\in X\backslash \left\{
\boldsymbol{x}\right\} ,\ \forall \lambda \in \left( 0,1\right) :\lambda
f\left( \boldsymbol{x}\right) +\left( 1-\lambda \right) f\left( \boldsymbol{y}\right) >f\left( \lambda \boldsymbol{x}+\left( 1-\lambda \right)
\boldsymbol{y}\right)
\end{equation*}が成り立つこととして定義されます。

多変数関数\(f\)が\(C^{2}\)級である場合には、\(f\)が狭義凸関数であるための条件を以下のように特定できます。

命題(2階連続微分可能な多変数の狭義凸関数)
非空の凸な開集合上に定義された関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)が\(C^{2}\)級であるものとする。このとき、任意の点\(\boldsymbol{x}\in X\)における\(f\)のヘッセ行列\(H_{f}\left( \boldsymbol{x}\right) \)が正定値であるならば、すなわち、\begin{equation*}\forall \boldsymbol{x}\in X,\ \forall \boldsymbol{h}\in \mathbb{R} ^{n}\backslash \left\{ \boldsymbol{0}\right\} :\boldsymbol{h}^{t}H_{f}\left(
\boldsymbol{x}\right) \boldsymbol{h}>0
\end{equation*}が成り立つならば、\(f\)は狭義凸関数である。ただし、\begin{equation*}H_{f}\left( \boldsymbol{x}\right) =\begin{pmatrix}
f_{x_{1}x_{1}}^{\prime \prime }\left( \boldsymbol{x}\right) & \cdots &
f_{x_{1}x_{n}}^{\prime \prime }\left( \boldsymbol{x}\right) \\
\vdots & \ddots & \vdots \\
f_{x_{n}x_{1}}^{\prime \prime }\left( \boldsymbol{x}\right) & \cdots &
f_{x_{n}x_{n}}^{\prime \prime }\left( \boldsymbol{x}\right)
\end{pmatrix}=\begin{pmatrix}
\frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{1}\partial
x_{1}} & \cdots & \frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{n}\partial x_{1}} \\
\vdots & \ddots & \vdots \\
\frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{1}\partial
x_{n}} & \cdots & \frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{n}\partial x_{n}}\end{pmatrix}\end{equation*}である。

多変数関数\(f\)が\(C^{2}\)級である場合、そのヘッセ行列\(H_{f}\left( \boldsymbol{x}\right) \)は対称行列になります。対称行列に関しては以下の関係\begin{eqnarray*}H_{f}\left( \boldsymbol{x}\right) \text{は正定値}
&\Leftrightarrow &H_{f}\left( \boldsymbol{x}\right) \text{の固有値がすべて正} \\
&\Leftrightarrow &H_{f}\left( \boldsymbol{x}\right) \text{のすべての主座小行列式が正} \\
&\Leftrightarrow &H_{f}\left( \boldsymbol{x}\right) \text{のすべての狭義の主座小行列式が正}
\end{eqnarray*}が成り立つため、固有値や主座小行列式、もしくは狭義の主座小行列式の符号を観察することによって\(H_{f}\left( \boldsymbol{x}\right) \)が正定値であることを判定できます。

例(多変数の狭義凸関数)
関数\(f:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f\left( x,y\right) =x^{2}+y^{2}
\end{equation*}を定めるものとします。\(f\)の定義域\(\mathbb{R} ^{2}\)は非空の凸な開集合です。\(f\)は多変数の多項式関数であるため\(C^{2}\)級であり、点\(\left( x,y\right) \in \mathbb{R} ^{2}\)におけるヘッセ行列は、\begin{equation*}H_{f}\left( x,y\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y\right) & f_{xy}^{\prime \prime }\left(
x,y\right) \\
f_{yx}^{\prime \prime }\left( x,y\right) & f_{yy}^{\prime \prime }\left(
x,y\right)
\end{pmatrix}=\begin{pmatrix}
2 & 0 \\
0 & 2\end{pmatrix}\end{equation*}です。狭義の主座小行列式について、\begin{eqnarray*}
\left\vert A_{1}\right\vert &=&\left\vert 2\right\vert =2>0 \\
\left\vert A_{2}\right\vert &=&\begin{vmatrix}
2 & 0 \\
0 & 2\end{vmatrix}=4>0
\end{eqnarray*}が成り立つため\(H_{f}\left(x,y\right) \)は正定値です。任意の点\(\left( x,y\right) \in \mathbb{R} ^{2}\)について同様であるため、先の命題より\(f\)は狭義凸関数です。
例(多変数の狭義凸関数)
関数\(f:\mathbb{R} ^{3}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{equation*}f\left( x,y,z\right) =x^{2}+2y^{2}+3z^{2}+2xy+2xz
\end{equation*}を定めるものとします。\(f\)の定義域\(\mathbb{R} ^{3}\)は非空の凸な開集合です。\(f\)は多変数の多項式関数であるため\(C^{2}\)級であり、勾配ベクトル場\(\nabla f:\mathbb{R} ^{3}\rightarrow \mathbb{R} ^{3}\)はそれぞれの\(\left( x,y,z\right)\in \mathbb{R} ^{3}\)に対して、\begin{eqnarray*}\nabla f\left( x,y,z\right) &=&\left( \frac{\partial f\left( x,y,z\right) }{\partial x},\frac{\partial f\left( x,y,z\right) }{\partial y},\frac{\partial
f\left( x,y,z\right) }{\partial z}\right) \\
&=&\left( 2x+2y+2z,4y+2x,6z+2x\right)
\end{eqnarray*}を定め、ヘッセ行列関数\(H_{f}:\mathbb{R} ^{3}\rightarrow M_{3,3}\left( \mathbb{R} \right) \)はそれぞれの点\(\left(x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{eqnarray*}H_{f}\left( x,y,z\right) &=&\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y,z\right) & f_{xy}^{\prime \prime }\left(
x,y,z\right) & f_{xz}^{\prime \prime }\left( x,y,z\right) \\
f_{yx}^{\prime \prime }\left( x,y,z\right) & f_{yy}^{\prime \prime }\left(
x,y,z\right) & f_{yz}^{\prime \prime }\left( x,y,z\right) \\
f_{zx}^{\prime \prime }\left( x,y,z\right) & f_{zy}^{\prime \prime }\left(
x,y,z\right) & f_{zz}^{\prime \prime }\left( x,y,z\right)
\end{pmatrix}
\\
&=&\begin{pmatrix}
2 & 2 & 2 \\
2 & 4 & 0 \\
2 & 0 & 6\end{pmatrix}\end{eqnarray*}を定めます。狭義の主座小行列式について、\begin{eqnarray*}
\left\vert A_{1}\right\vert &=&\left\vert 2\right\vert =2>0 \\
\left\vert A_{2}\right\vert &=&\begin{vmatrix}
2 & 2 \\
2 & 4\end{vmatrix}=4>0 \\
\left\vert A_{3}\right\vert &=&\begin{vmatrix}
2 & 2 & 2 \\
2 & 4 & 0 \\
2 & 0 & 6\end{vmatrix}=8>0
\end{eqnarray*}が成り立つため\(H_{f}\left(x,y,z\right) \)は正定値です。任意の点\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)について同様であるため、先の命題より\(f\)は狭義凸関数です。

 

多変数の凹関数とヘッセ行列の符号の関係

ユークリッド空間\(\mathbb{R} ^{n}\)もしくはその部分集合である凸集合が定義域であるような多変数関数\begin{equation*}f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \end{equation*}が凹関数であることは、以下の条件\begin{equation*}
\forall \boldsymbol{x},\boldsymbol{y}\in X,\ \forall \lambda \in \left[ 0,1\right] :\lambda f\left( \boldsymbol{x}\right) +\left( 1-\lambda \right)
f\left( \boldsymbol{y}\right) \leq f\left( \lambda \boldsymbol{x}+\left(
1-\lambda \right) \boldsymbol{y}\right)
\end{equation*}が成り立つこととして定義されます。

多変数関数\(f\)が\(C^{2}\)級である場合には、\(f\)が凹関数であることを以下のように特徴づけられます。

命題(2階連続微分可能な多変数の凹関数)
非空の凸な開集合上に定義された関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)が\(C^{2}\)級であるものとする。このとき、任意の点\(\boldsymbol{x}\in X\)における\(f\)のヘッセ行列\(H_{f}\left( \boldsymbol{x}\right) \)が半負定値であることは、すなわち、\begin{equation*}\forall \boldsymbol{x}\in X,\ \forall \boldsymbol{h}\in \mathbb{R} ^{n}\backslash \left\{ \boldsymbol{0}\right\} :\boldsymbol{h}^{t}H_{f}\left(
\boldsymbol{x}\right) \boldsymbol{h}\leq 0
\end{equation*}が成り立つことは、\(f\)が凹関数であるための必要十分条件である。ただし、\begin{equation*}H_{f}\left( \boldsymbol{x}\right) =\begin{pmatrix}
f_{x_{1}x_{1}}^{\prime \prime }\left( \boldsymbol{x}\right) & \cdots &
f_{x_{1}x_{n}}^{\prime \prime }\left( \boldsymbol{x}\right) \\
\vdots & \ddots & \vdots \\
f_{x_{n}x_{1}}^{\prime \prime }\left( \boldsymbol{x}\right) & \cdots &
f_{x_{n}x_{n}}^{\prime \prime }\left( \boldsymbol{x}\right)
\end{pmatrix}=\begin{pmatrix}
\frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{1}\partial
x_{1}} & \cdots & \frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{n}\partial x_{1}} \\
\vdots & \ddots & \vdots \\
\frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{1}\partial
x_{n}} & \cdots & \frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{n}\partial x_{n}}\end{pmatrix}\end{equation*}である。

多変数関数\(f\)が\(C^{2}\)級である場合、そのヘッセ行列\(H_{f}\left( \boldsymbol{x}\right) \)は対称行列になります。対称行列\(H_{f}\left( \boldsymbol{x}\right) \)に関しては以下の関係\begin{eqnarray*}H_{f}\left( \boldsymbol{x}\right) \text{は半負定値} &\Leftrightarrow &H_{f}\left( \boldsymbol{x}\right) \text{の固有値がすべて非正} \\
&\Leftrightarrow &\left\{
\begin{array}{l}
H_{f}\left( \boldsymbol{x}\right) \text{のすべての奇数次の主座小行列式が非正}\wedge \\
H_{f}\left( \boldsymbol{x}\right) \text{のすべての偶数次の主座小行列式が非負}\end{array}\right.
\end{eqnarray*}が成り立つため、固有値や主座小行列式の符号を観察することによって\(H_{f}\left( \boldsymbol{x}\right) \)が半負定値であることを判定できます。

例(多変数の凹関数)
関数\(f:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f\left( x,y\right) =-x^{2}-y^{2}
\end{equation*}を定めるものとします。\(f\)の定義域\(\mathbb{R} ^{2}\)は凸集合です。\(f\)は多変数の多項式関数であるため\(C^{2}\)級であり、点\(\left( x,y\right) \in \mathbb{R} ^{2}\)におけるヘッセ行列は、\begin{equation*}H_{f}\left( x,y\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y\right) & f_{xy}^{\prime \prime }\left(
x,y\right) \\
f_{yx}^{\prime \prime }\left( x,y\right) & f_{yy}^{\prime \prime }\left(
x,y\right)
\end{pmatrix}=\begin{pmatrix}
-2 & 0 \\
0 & -2\end{pmatrix}\end{equation*}です。\(H_{f}\left( x,y\right) \)の1次の主座小行列式については、\begin{eqnarray*}\left\vert A_{1}\right\vert &=&\left\vert -2\right\vert =-2\leq 0 \\
\left\vert A_{2}\right\vert &=&\left\vert -2\right\vert =-2\leq 0
\end{eqnarray*}が成り立ち、2次の主座小行列式については、\begin{equation*}
\left\vert A_{1,2}\right\vert =\begin{vmatrix}
-2 & 0 \\
0 & -2\end{vmatrix}=4\geq 0
\end{equation*}が成り立つため\(H_{f}\left(x,y\right) \)は半負定値です。任意の点\(\left( x,y\right) \in \mathbb{R} ^{2}\)について同様であるため、先の命題より\(f\)は凹関数です。
例(多変数の凹関数)
関数\(f:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f\left( x,y\right) =x+y
\end{equation*}を定めるものとします。\(f\)の定義域\(\mathbb{R} ^{2}\)は凸集合です。\(f\)は多変数の多項式関数であるため\(C^{2}\)級であり、点\(\left( x,y\right) \in \mathbb{R} ^{2}\)におけるヘッセ行列は、\begin{equation*}H_{f}\left( x,y\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y\right) & f_{xy}^{\prime \prime }\left(
x,y\right) \\
f_{yx}^{\prime \prime }\left( x,y\right) & f_{yy}^{\prime \prime }\left(
x,y\right)
\end{pmatrix}=\begin{pmatrix}
0 & 0 \\
0 & 0\end{pmatrix}\end{equation*}です。\(H_{f}\left( x,y\right) \)の1次の主座小行列式については、\begin{eqnarray*}\left\vert A_{1}\right\vert &=&\left\vert 0\right\vert =0 \\
\left\vert A_{2}\right\vert &=&\left\vert 0\right\vert =0
\end{eqnarray*}が成り立ち、2次の主座小行列式については、\begin{equation*}
\left\vert A_{1,2}\right\vert =\begin{vmatrix}
0 & 0 \\
0 & 0\end{vmatrix}=0
\end{equation*}が成り立つため\(H_{f}\left(x,y\right) \)は半負定値です。任意の点\(\left( x,y\right) \in \mathbb{R} ^{2}\)について同様であるため、先の命題より\(f\)は凹関数です。
例(多変数の凹関数)
関数\(f:\mathbb{R} ^{3}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{equation*}f\left( x,y,z\right) =-x^{2}-2y^{2}-3z^{2}-2xy-2xz
\end{equation*}を定めるものとします。\(f\)の定義域\(\mathbb{R} ^{3}\)は非空の凸な開集合です。\(f\)は多変数の多項式関数であるため\(C^{2}\)級であり、勾配ベクトル場\(\nabla f:\mathbb{R} ^{3}\rightarrow \mathbb{R} ^{3}\)はそれぞれの\(\left( x,y,z\right)\in \mathbb{R} ^{3}\)に対して、\begin{eqnarray*}\nabla f\left( x,y,z\right) &=&\left( \frac{\partial f\left( x,y,z\right) }{\partial x},\frac{\partial f\left( x,y,z\right) }{\partial y},\frac{\partial
f\left( x,y,z\right) }{\partial z}\right) \\
&=&\left( -2x-2y-2z,-4y-2x,-6z-2x\right)
\end{eqnarray*}を定め、ヘッセ行列関数\(H_{f}:\mathbb{R} ^{3}\rightarrow M_{3,3}\left( \mathbb{R} \right) \)はそれぞれの点\(\left(x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{eqnarray*}H_{f}\left( x,y,z\right) &=&\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y,z\right) & f_{xy}^{\prime \prime }\left(
x,y,z\right) & f_{xz}^{\prime \prime }\left( x,y,z\right) \\
f_{yx}^{\prime \prime }\left( x,y,z\right) & f_{yy}^{\prime \prime }\left(
x,y,z\right) & f_{yz}^{\prime \prime }\left( x,y,z\right) \\
f_{zx}^{\prime \prime }\left( x,y,z\right) & f_{zy}^{\prime \prime }\left(
x,y,z\right) & f_{zz}^{\prime \prime }\left( x,y,z\right)
\end{pmatrix}
\\
&=&\begin{pmatrix}
-2 & -2 & -2 \\
-2 & -4 & 0 \\
-2 & 0 & -6\end{pmatrix}\end{eqnarray*}を定めます。\(H_{f}\left( x,y,z\right) \)の1次の主座小行列式については、\begin{eqnarray*}\left\vert A_{1}\right\vert &=&\left\vert -2\right\vert =-2\leq 0 \\
\left\vert A_{2}\right\vert &=&\left\vert -4\right\vert =-4\leq 0 \\
\left\vert A_{3}\right\vert &=&\left\vert -6\right\vert =-6\leq 0
\end{eqnarray*}が成り立ち、2次の主座小行列式については、\begin{eqnarray*}
\left\vert A_{1,2}\right\vert &=&\begin{vmatrix}
-2 & -2 \\
-2 & -4\end{vmatrix}=4\geq 0 \\
\left\vert A_{2,3}\right\vert &=&\begin{vmatrix}
-4 & 0 \\
0 & -6\end{vmatrix}=24\geq 0 \\
\left\vert A_{1,3}\right\vert &=&\begin{vmatrix}
-2 & -2 \\
-2 & -6\end{vmatrix}=8\geq 0
\end{eqnarray*}が成り立ち、3次の主座小行列式については、\begin{equation*}
\left\vert A_{1,2,3}\right\vert =\begin{vmatrix}
-2 & -2 & -2 \\
-2 & -4 & 0 \\
-2 & 0 & -6\end{vmatrix}=-8\leq 0
\end{equation*}が成り立つため\(H_{f}\left(x,y,z\right) \)は半負定値です。任意の点\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)について同様であるため、先の命題より\(f\)は凹関数です。

 

多変数の狭義凹関数とヘッセ行列の符号の関係

ユークリッド空間\(\mathbb{R} ^{n}\)もしくはその部分集合である凸集合が定義域であるような多変数関数\begin{equation*}f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \end{equation*}が狭義凹関数であることは、以下の条件\begin{equation*}
\forall \boldsymbol{x}\in X,\ \forall \boldsymbol{y}\in X\backslash \left\{
\boldsymbol{x}\right\} ,\ \forall \lambda \in \left( 0,1\right) :\lambda
f\left( \boldsymbol{x}\right) +\left( 1-\lambda \right) f\left( \boldsymbol{y}\right) <f\left( \lambda \boldsymbol{x}+\left( 1-\lambda \right)
\boldsymbol{y}\right)
\end{equation*}が成り立つこととして定義されます。

多変数関数\(f\)が\(C^{2}\)級である場合には、\(f\)が狭義凹関数であるための条件を以下のように特定できます。

命題(2階連続微分可能な多変数の狭義凹関数)
非空の凸な開集合上に定義された関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)が\(C^{2}\)級であるものとする。このとき、任意の点\(\boldsymbol{x}\in X\)における\(f\)のヘッセ行列\(H_{f}\left( \boldsymbol{x}\right) \)が負定値であるならば、すなわち、\begin{equation*}\forall \boldsymbol{x}\in X,\ \forall \boldsymbol{h}\in \mathbb{R} ^{n}\backslash \left\{ \boldsymbol{0}\right\} :\boldsymbol{h}^{t}H_{f}\left(
\boldsymbol{x}\right) \boldsymbol{h}<0
\end{equation*}が成り立つならば、\(f\)は狭義凹関数である。ただし、\begin{equation*}H_{f}\left( \boldsymbol{x}\right) =\begin{pmatrix}
f_{x_{1}x_{1}}^{\prime \prime }\left( \boldsymbol{x}\right) & \cdots &
f_{x_{1}x_{n}}^{\prime \prime }\left( \boldsymbol{x}\right) \\
\vdots & \ddots & \vdots \\
f_{x_{n}x_{1}}^{\prime \prime }\left( \boldsymbol{x}\right) & \cdots &
f_{x_{n}x_{n}}^{\prime \prime }\left( \boldsymbol{x}\right)
\end{pmatrix}=\begin{pmatrix}
\frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{1}\partial
x_{1}} & \cdots & \frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{n}\partial x_{1}} \\
\vdots & \ddots & \vdots \\
\frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{1}\partial
x_{n}} & \cdots & \frac{\partial ^{2}f\left( \boldsymbol{x}\right) }{\partial x_{n}\partial x_{n}}\end{pmatrix}\end{equation*}である。

多変数関数\(f\)が\(C^{2}\)級である場合、そのヘッセ行列\(H_{f}\left( \boldsymbol{x}\right) \)は対称行列になります。対称行列\(H_{f}\left( \boldsymbol{x}\right) \)に関しては以下の関係\begin{eqnarray*}H_{f}\left( \boldsymbol{x}\right) \text{は負定値}
&\Leftrightarrow &H_{f}\left( \boldsymbol{x}\right) \text{の固有値がすべて負} \\
&\Leftrightarrow &\left\{
\begin{array}{l}
H_{f}\left( \boldsymbol{x}\right) \text{のすべての奇数次の主座小行列式が負}\wedge \\
H_{f}\left( \boldsymbol{x}\right) \text{のすべての偶数次の主座小行列式が正}\end{array}\right. \\
&\Leftrightarrow &\left\{
\begin{array}{l}
H_{f}\left( \boldsymbol{x}\right) \text{のすべての奇数次の狭義の主座小行列式が負}\wedge \\
H_{f}\left( \boldsymbol{x}\right) \text{のすべての偶数次の狭義の主座小行列式が正}\end{array}\right.
\end{eqnarray*}が成り立つため、固有値や主座小行列式、もしくは狭義の主座小行列式の符号を観察することによって\(H_{f}\left( \boldsymbol{x}\right) \)が負定値であることを判定できます。

例(多変数の狭義凹関数)
関数\(f:\mathbb{R} ^{2}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y\right) \in \mathbb{R} ^{2}\)に対して、\begin{equation*}f\left( x,y\right) =-x^{2}-y^{2}
\end{equation*}を定めるものとします。\(f\)の定義域\(\mathbb{R} ^{2}\)は凸集合です。\(f\)は多変数の多項式関数であるため\(C^{2}\)級であり、点\(\left( x,y\right) \in \mathbb{R} ^{2}\)におけるヘッセ行列は、\begin{equation*}H_{f}\left( x,y\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y\right) & f_{xy}^{\prime \prime }\left(
x,y\right) \\
f_{yx}^{\prime \prime }\left( x,y\right) & f_{yy}^{\prime \prime }\left(
x,y\right)
\end{pmatrix}=\begin{pmatrix}
-2 & 0 \\
0 & -2\end{pmatrix}\end{equation*}です。狭義の首座小行列式の値について、\begin{eqnarray*}
\left\vert A_{1}\right\vert &=&\left\vert -2\right\vert =-2<0 \\
\left\vert A_{2}\right\vert &=&\begin{vmatrix}
-2 & 0 \\
0 & -2\end{vmatrix}=4>0
\end{eqnarray*}が成り立ちます。任意の点\(\left( x,y\right) \in \mathbb{R} ^{2}\)について同様であるため、先の命題より\(f\)は狭義凹関数です。
例(多変数の狭義凹関数)
関数\(f:\mathbb{R} ^{3}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{equation*}f\left( x,y,z\right) =-x^{2}-2y^{2}-3z^{2}-2xy-2xz
\end{equation*}を定めるものとします。\(f\)の定義域\(\mathbb{R} ^{3}\)は凸集合です。\(f\)は多変数の多項式関数であるため\(C^{2}\)級であり、点\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)におけるヘッセ行列は、\begin{equation*}H_{f}\left( x,y\right) =\begin{pmatrix}
f_{xx}^{\prime \prime }\left( x,y,z\right) & f_{xy}^{\prime \prime }\left(
x,y,z\right) & f_{xz}^{\prime \prime }\left( x,y,z\right) \\
f_{yx}^{\prime \prime }\left( x,y,z\right) & f_{yy}^{\prime \prime }\left(
x,y,z\right) & f_{yz}^{\prime \prime }\left( x,y,z\right) \\
f_{zx}^{\prime \prime }\left( x,y,z\right) & f_{zy}^{\prime \prime }\left(
x,y,z\right) & f_{zz}^{\prime \prime }\left( x,y,z\right)
\end{pmatrix}=\begin{pmatrix}
-2 & -2 & -2 \\
-2 & -4 & 0 \\
-2 & 0 & -6\end{pmatrix}\end{equation*}です。狭義の首座小行列式の値について、\begin{eqnarray*}
\left\vert A_{1}\right\vert &=&\left\vert -2\right\vert =-2<0 \\
\left\vert A_{2}\right\vert &=&\begin{vmatrix}
-2 & -2 \\
-2 & -4\end{vmatrix}=4>0 \\
\left\vert A_{3}\right\vert &=&\begin{vmatrix}
-2 & -2 & -2 \\
-2 & -4 & 0 \\
-2 & 0 & -6\end{vmatrix}=-8<0
\end{eqnarray*}が成り立ちます。任意の点\(\left( x,y\right) \in \mathbb{R} ^{2}\)について同様であるため、先の命題より\(f\)は狭義凹関数です。

 

演習問題

問題(多変数関数の凹凸判定)
関数\(f:\mathbb{R} ^{3}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{equation*}f\left( x,y,z\right) =e^{x-2y+z}
\end{equation*}を定めるものとします。\(f\)の凹凸を判定してください。
解答を見る

プレミアム会員専用コンテンツです
ログイン】【会員登録

問題(多変数関数の凹凸判定)
関数\(f:\mathbb{R} ^{3}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z\right) \in \mathbb{R} ^{3}\)に対して、\begin{equation*}f\left( x,y,z\right) =x^{4}+y^{4}+z^{4}+z^{2}
\end{equation*}を定めるものとします。\(f\)の凹凸を判定してください。
解答を見る

プレミアム会員専用コンテンツです
ログイン】【会員登録

問題(多変数関数の凹凸判定)
関数\(f:\mathbb{R} ^{4}\rightarrow \mathbb{R} \)はそれぞれの\(\left( x,y,z,w\right) \in \mathbb{R} ^{4}\)に対して、\begin{equation*}f\left( x,y,z,w\right) =x^{2}+y^{2}+z^{2}+w^{2}+xy+yz+zw
\end{equation*}を定めるものとします。\(f\)の凹凸を判定してください。
解答を見る

プレミアム会員専用コンテンツです
ログイン】【会員登録

関連知識

Mailで保存
Xで共有

質問とコメント

プレミアム会員専用コンテンツです

会員登録

有料のプレミアム会員であれば、質問やコメントの投稿と閲覧、プレミアムコンテンツ(命題の証明や演習問題とその解答)へのアクセスなどが可能になります。

ワイズのユーザーは年齢・性別・学歴・社会的立場などとは関係なく「学ぶ人」として対等であり、お互いを人格として尊重することが求められます。ユーザーが快適かつ安心して「学ぶ」ことに集中できる環境を整備するため、広告やスパム投稿、他のユーザーを貶めたり威圧する発言、学んでいる内容とは関係のない不毛な議論などはブロックすることになっています。詳細はガイドラインをご覧ください。

誤字脱字、リンク切れ、内容の誤りを発見した場合にはコメントに投稿するのではなく、以下のフォームからご連絡をお願い致します。

プレミアム会員専用コンテンツです
ログイン】【会員登録