線型等式制約条件のもとでの多変数関数の最小化問題
多変数関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)に加えて有限\(m\)個ずつの非ゼロベクトル\(a_{1},\cdots ,a_{m}\in \mathbb{R} ^{n}\backslash \left\{ 0\right\} \)およびスカラー\(c_{1},\cdots ,c_{m}\in \mathbb{R} \)が与えられているものとします。ベクトルとスカラーの組\(\left(a_{i},c_{i}\right) \ \left( i=1,\cdots ,m\right) \)から以下の集合\begin{eqnarray*}H_{i} &=&\left\{ x\in \mathbb{R} ^{n}\ |\ a_{i}\cdot x=c_{i}\right\} \\
&=&\left\{ \left( x_{1},\cdots ,x_{n}\right) \in \mathbb{R} ^{n}\ |\ a_{i1}x_{1}+\cdots +a_{in}x_{n}=c_{i}\right\}
\end{eqnarray*}を定義し、これを\(i\)番目の制約集合（\(i\) thconstraint set）と呼びます。その上で、すべての制約集合\(H_{1},\cdots ,H_{m}\)の共通部分を、\begin{equation*}H=\bigcap_{i=1}^{m}H_{i}
\end{equation*}で表記し、これを制約集合（constraint set）と呼びます。関数\(f\)の変数\(x\)がとり得る値の範囲を以下の集合\begin{equation*}X\cap H
\end{equation*}に制限した場合の\(f\)の最小点を特定する問題を線型等式制約付き最小化問題（minimization problem with linear equality constraints）と呼び、これを、
$$\begin{array}{cl}\min\limits_{x\in X} & f\left( x\right) \\
s.t. & a_{1}\cdot x=c_{1} \\
& \vdots \\
& a_{m}\cdot x=c_{m}
\end{array}$$で表記します。集合\(X\cap H\)を最小化問題の定義域（domain of the minimization problem）と呼びます。\(X=\mathbb{R} ^{n}\)の場合には\(X\cap H=H\)です。最小化問題において最小化する対象となる関数\(f\)を目的関数（objective mathrmtion）と呼び、制約集合\(H\)を規定するそれぞれの条件\(a_{i}\cdot x=c_{i}\)を等式制約条件（equality constraint）と呼びます。
非ゼロベクトル\(a_{i}\in \mathbb{R} ^{n}\backslash \left\{ 0\right\} \)およびスカラー\(c_{i}\in \mathbb{R} \)が与えられたとき、それぞれの\(x\in \mathbb{R} ^{n}\)に対して、\begin{equation*}g_{i}\left( x\right) =a_{i}\cdot x-c_{i}
\end{equation*}を定める多変数関数\(g_{i}:\mathbb{R} ^{n}\rightarrow \mathbb{R} \)を定義すれば、\(i\)番目の制約集合を、\begin{equation*}H_{i}=\left\{ x\in \mathbb{R} ^{n}\ |\ g_{i}\left( x\right) =0\right\}
\end{equation*}と表現できるため、先の最小化問題を、
$$\begin{array}{cl}\min\limits_{x\in X} & f\left( x\right) \\
s.t. & g_{1}\left( x\right) =0 \\
& \vdots \\
& g_{m}\left( x\right) =0
\end{array}$$と表現することもできます。
$$\begin{array}{cl}\min\limits_{x\in X} & f\left( x\right) \\
s.t. & a_{1}x=c_{1} \\
& a_{2}x=c_{2}
\end{array}$$と定式化されます。
$$\begin{array}{cl}\min\limits_{\left( x_{1}x_{2}\right) \in X} & f\left( x_{1},x_{2}\right) \\
s.t. & a_{11}x_{1}+a_{12}x_{2}=c_{1} \\
& a_{21}x_{1}+a_{22}x_{2}=c_{2}
\end{array}$$と定式化されます。
線型等式制約と線型不等式制約の関係
関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)と非ゼロベクトル\(a_{i}\in \mathbb{R} ^{n}\backslash \left\{ 0\right\} \)および\(c_{i}\in \mathbb{R} \ \left( i=1,\cdots ,m\right) \)から線型等式制約付き最小化問題
$$\begin{array}{cl}\min\limits_{x\in X} & f\left( x\right) \\
s.t. & a_{1}\cdot x=c_{1} \\
& \vdots \\
& a_{m}\cdot x=c_{m}
\end{array}$$を定義します。以下の関係\begin{eqnarray*}
a_{i}\cdot x=c_{i} &\Leftrightarrow &a_{i}\cdot x\leq c_{i}\wedge a_{i}\cdot
x\geq c_{i} \\
&\Leftrightarrow &a_{i}\cdot x\leq c_{i}\wedge -a_{i}\cdot x\leq -c_{i}
\end{eqnarray*}が成り立つことを踏まえると、1本の線型等式制約条件は2本の線型不等式制約条件に入れ替え可能であるため、先の線型等式制約付き最小化問題を以下のような線型不等式制約付き最小化問題
$$\begin{array}{cl}\min\limits_{x\in X} & f\left( x\right) \\
s.t. & a_{1}\cdot x\leq c_{1} \\
& -a_{1}\cdot x\leq -c_{1} \\
& \vdots \\
& a_{m}\cdot x\leq c_{m} \\
& -a_{m}\cdot x\leq -c_{m}
\end{array}$$と同一視できます。したがって、線型不等式制約条件付き最小化問題について成り立つ性質がそのまま線型等式制約条件付き最小化問題についても成立します。以下ではこの事実を利用して諸々の命題を証明します。
最小点であるための必要条件
線型等式制約付き最小化問題に解が存在する場合、それはどのような条件を満たすのでしょうか。線型等式制約付き最小化問題を線型不等式制約付き最小化問題に読み替えることにより以下の命題が導かれます。
$$\begin{array}{cl}\min\limits_{x\in X} & f\left( x\right) \\
s.t. & a_{1}\cdot x=c_{1} \\
& \vdots \\
& a_{m}\cdot x=c_{m}
\end{array}$$を定義する。関数\(f\)の定義域の内点\(x^{\ast }\in X^{i}\cap H\)が最小点であり、なおかつ\(f\)が点\(x^{\ast }\)において全微分可能であるならば、以下の条件\begin{eqnarray*}&&\left( a\right) \ \nabla f\left( x^{\ast }\right) +\sum_{i=1}^{m}\mu
_{i}a_{i}=0 \\
&&\left( b\right) \ \forall i\in \left\{ 1,\cdots ,m\right\} :a_{i}\cdot
x^{\ast }=c_{i}
\end{eqnarray*}を満たす実数\(\mu _{1},\cdots ,\mu_{m}\in \mathbb{R} \)が存在する。
\end{equation*}を定めるものとします。以下の最小化問題
$$\begin{array}{cl}\min\limits_{\left( x_{1}x_{2}\right) \in \mathbb{R} ^{2}} & f\left( x_{1},x_{2}\right) \\
s.t. & x_{1}+x_{2}=1
\end{array}$$を構成します。制約集合は、\begin{equation*}
H=\left\{ \left( x_{1},x_{2}\right) \in \mathbb{R} ^{2}\ |\ x_{1}+x_{2}=1\right\}
\end{equation*}ですが、これは\(\mathbb{R} ^{2}\)上のコンパクト集合です。\(f\)はコンパクト集合\(H\)上に定義された連続関数であるため、最大値・最小値の定理より最小値が存在します。\(f\)は全微分可能であり、勾配ベクトルは、\begin{equation*}\nabla f\left( x_{1},x_{2}\right) =\left( 2x_{1},2x_{2}\right)
\end{equation*}となります。\(\left( x_{1}^{\ast},x_{2}^{\ast }\right) \in \mathbb{R} ^{2}\)が最小点であるならば、最小点であるための必要条件より、\begin{eqnarray*}&&\left( a\right) \ \nabla f\left( x_{1}^{\ast },x_{2}^{\ast }\right) +\mu
\left( 1,1\right) =0 \\
&&\left( b\right) \ x_{1}+x_{2}=1
\end{eqnarray*}すなわち、\begin{eqnarray*}
&&\left( a_{1}\right) \ 2x_{1}^{\ast }+\lambda =0 \\
&&\left( a_{2}\right) \ 2x_{2}^{\ast }+\lambda =0 \\
&&\left( b\right) \ x_{1}^{\ast }+x_{2}^{\ast }=1
\end{eqnarray*}を満たす\(\mu \in \mathbb{R} \)が存在します。以上の条件を満たすのは、\begin{equation*}\left( x_{1},x_{2},\mu \right) =\left( \frac{1}{2},\frac{1}{2},-1\right)
\end{equation*}だけです。したがって最小点は\(\left( \frac{1}{2},\frac{1}{2}\right) \)であり、最小値が\(f\left( \frac{1}{2},\frac{1}{2}\right) =\frac{1}{2}\)であることが明らかになりました。
ラグランジュの未定乗数法
目的関数\(f\)の定義域の内点\(x^{\ast }\in X^{i}\cap H\)が線型等式制約のもとでの最小化問題
$$\begin{array}{cl}\min\limits_{x\in X} & f\left( x\right) \\
s.t. & a_{1}\cdot x=c_{1} \\
& \vdots \\
& a_{m}\cdot x=c_{m}
\end{array}$$の解であるとともに、\(f\)が点\(x^{\ast }\)において全微分可能である場合には、\begin{eqnarray*}&&\left( a\right) \ \nabla f\left( x^{\ast }\right) +\sum_{i=1}^{m}\mu
_{i}a_{i}=0 \\
&&\left( b\right) \ \forall i\in \left\{ 1,\cdots ,m\right\} :a_{i}\cdot
x^{\ast }=c_{i}
\end{eqnarray*}を満たす実数\(\mu _{1},\cdots ,\mu_{m}\in \mathbb{R} \)が存在することが明らかになりました。ただ、関数\(f\)が全微分可能なそれぞれの内点に対して、以上の条件を満たす実数\(\mu_{1},\cdots ,\mu _{m}\)が存在するか判定する作業は煩雑になりがちです。ただ、この問題は以下のような形で解決可能です。
目的関数\(f:\mathbb{R} ^{n}\supset X\rightarrow \mathbb{R} \)と非ゼロベクトル\(a_{i}\in \mathbb{R} ^{n}\backslash \left\{ 0\right\} \)およびスカラー\(c_{i}\in \mathbb{R} \ \left( i=1,\cdots ,m\right) \)のもとでの最小化問題
$$\begin{array}{cl}\min\limits_{x\in X} & f\left( x\right) \\
s.t. & a_{1}\cdot x=c_{1} \\
& \vdots \\
& a_{m}\cdot x=c_{m}
\end{array}$$が与えられたとき、それぞれの\(\left( x,\mu _{1},\cdots ,\mu_{m}\right) \in X\times \mathbb{R} ^{m}\)に対して、\begin{equation*}L\left( x,\mu _{1},\cdots ,\mu _{m}\right) =f\left( x\right)
+\sum_{i=1}^{m}\mu _{i}\left( a_{i}\cdot x-c_{i}\right)
\end{equation*}を定める関数\(L:X\times \mathbb{R} ^{m}\rightarrow \mathbb{R} \)を定義し、これをラグランジュ関数（Lagrangian）と呼びます。
関数\(f\)が定義域の内点\(x\in X^{i}\)において全微分可能である場合、ラグランジュ関数\(L\)は明らかに点\(\left( x,\mu _{1},\cdots ,\mu _{m}\right) \)において全微分可能です。そこで、\(L\)をそれぞれの変数\(x_{j}\ \left( j=1,\cdots ,n\right) \)に関して偏微分して\(0\)とおくと、\begin{eqnarray*}\forall j\in \left\{ 1,\cdots ,n\right\} :\frac{\partial L\left( x,\mu
_{1},\cdots ,\mu _{m}\right) }{\partial x_{j}}=0 &\Leftrightarrow &\forall
j\in \left\{ 1,\cdots ,n\right\} :\frac{\partial f\left( x\right) }{\partial
x_{j}}+\sum_{i=1}^{m}\mu _{i}a_{ij}=0 \\
&\Leftrightarrow &\nabla f\left( x\right) +\sum_{i=1}^{m}\mu _{i}a_{i}=0
\end{eqnarray*}を得ます。さらに、\(L\)をそれぞれの変数\(\mu _{i}\ \left( i=1,\cdots ,m\right) \)に関して偏微分して\(0\)とおくと、\begin{equation*}\forall i\in \left\{ 1,\cdots ,m\right\} :\frac{\partial L\left( x,\mu
_{1},\cdots ,\mu _{m}\right) }{\partial \mu _{i}}=0\Leftrightarrow \forall
i\in \left\{ 1,\cdots ,m\right\} :a_{i}\cdot x-c_{i}=0
\end{equation*}を得るため、最小点であるための必要条件を、\begin{eqnarray*}
&&\left( a\right) \ \forall j\in \left\{ 1,\cdots ,n\right\} :\frac{\partial
L\left( x^{\ast },\mu _{1},\cdots ,\mu _{m}\right) }{\partial x_{j}}=0 \\
&&\left( b\right) \ \forall i\in \left\{ 1,\cdots ,m\right\} :\frac{\partial
L\left( x^{\ast },\mu _{1},\cdots ,\mu _{m}\right) }{\partial \mu _{i}}=0
\end{eqnarray*}と言い換えることができます。つまり、最小化問題の解が存在する場合、ラグランジュ関数を構成した上で以上の条件を満たす点\(x^{\ast }\)を特定すれば、その点は最小化のための必要条件を満たすことが保証されるということです。これをラグランジュの未定乗数法（method of Lagrange multipler）と呼びます。
$$\begin{array}{cl}\min\limits_{x\in X} & f\left( x\right) \\
s.t. & a_{1}\cdot x=c_{1} \\
& \vdots \\
& a_{m}\cdot x=c_{m}
\end{array}$$を定義する。それぞれの\(\left( x,\mu _{1},\cdots ,\mu _{m}\right) \in X\times \mathbb{R} ^{m}\)に対して、\begin{equation*}L\left( x,\mu _{1},\cdots ,\mu _{m}\right) =f\left( x\right)
+\sum_{i=1}^{m}\mu _{i}\left( a_{i}\cdot x-c_{i}\right)
\end{equation*}を定める関数\(L:X\times \mathbb{R} ^{m}\rightarrow \mathbb{R} \)を定義する。関数\(f\)の定義域の内点\(x^{\ast }\in X^{i}\cap H\)が最小点であり、なおかつ\(f\)が点\(x^{\ast }\)において全微分可能である場合には、\begin{eqnarray*}&&\left( a\right) \ \forall j\in \left\{ 1,\cdots ,n\right\} :\frac{\partial
L\left( x^{\ast },\mu _{1},\cdots ,\mu _{m}\right) }{\partial x_{j}}=0 \\
&&\left( b\right) \ \forall i\in \left\{ 1,\cdots ,m\right\} :\frac{\partial
L\left( x^{\ast },\mu _{1},\cdots ,\mu _{m}\right) }{\partial \mu _{i}}=0
\end{eqnarray*}を満たす実数\(\mu _{1},\cdots ,\mu_{m}\in \mathbb{R} \)が存在する。
\end{equation*}を定めるものとします。以下の最小化問題
$$\begin{array}{cl}
\min\limits_{\left( x_{1}x_{2}\right) \in \mathbb{R} ^{2}} & f\left( x_{1},x_{2}\right) \\
s.t. & x_{1}+x_{2}=1 \end{array}$$を構成します。制約集合は、\begin{equation*}
H=\left\{ \left( x_{1},x_{2}\right) \in \mathbb{R} ^{2}\ |\ x_{1}+x_{2}=1\right\}
\end{equation*}ですが、これは\(\mathbb{R} ^{2}\)上のコンパクト集合です。\(f\)はコンパクト集合\(H\)上に定義された連続関数であるため、最大値・最小値の定理より最小値が存在します。ラグランジュ関数を、\begin{equation*}L\left( x_{1},x_{2},\mu \right) =x_{1}^{2}+x_{2}^{2}+\mu \left(
x_{1}+x_{2}-1\right)
\end{equation*}と定義します。\(\left( x_{1}^{\ast},x_{2}^{\ast }\right) \in \mathbb{R} ^{2}\)が最小点であるならば、以下の条件\begin{eqnarray*}&&\left( a_{1}\right) \ \frac{\partial L\left( x_{1}^{\ast },x_{2}^{\ast
},\mu \right) }{\partial x_{1}}=0 \\
&&\left( a_{2}\right) \ \frac{\partial L\left( x_{1}^{\ast },x_{2}^{\ast
},\mu \right) }{\partial x_{2}}=0 \\
&&\left( b\right) \ \frac{\partial L\left( x_{1}^{\ast },x_{2}^{\ast },\mu
\right) }{\partial \mu }=0
\end{eqnarray*}を満たす\(\mu \in \mathbb{R} \)が存在します。具体的には、\begin{eqnarray*}&&\left( a_{1}\right) \ 2x_{1}+\mu =0 \\
&&\left( a_{2}\right) \ 2x_{2}+\mu =0 \\
&&\left( b\right) \ x_{1}+x_{2}-1=0
\end{eqnarray*}を満たす\(\left( x_{1},x_{2}\right) \)を特定することになります。先に、同じ問題に対してラグランジュの未定乗数法を利用せずに最小点であるための必要条件を特定しましたが、ここで特定した条件はそれと合致しています。この結果は先の命題の主張と整合的です。ちなみに、以上の条件を満たすのは、\begin{equation*}\left( x_{1},x_{2},\mu \right) =\left( \frac{1}{2},\frac{1}{2},-1\right)
\end{equation*}だけです。したがって最小点は\(\left( \frac{1}{2},\frac{1}{2}\right) \)であり、最小値が\(f\left( \frac{1}{2},\frac{1}{2}\right) =\frac{1}{2}\)であることが明らかになりました。
線型等式制約条件のもとでの最小化問題の解法
目的関数\(f\)の定義域の内点\(x^{\ast }\in X^{i}\cap G\)が線型等式制約のもとでの最小化問題
$$\begin{array}{cl}\min\limits_{x\in X} & f\left( x\right) \\
s.t. & a_{1}\cdot x=c_{1} \\
& \vdots \\
& a_{m}\cdot x=c_{m}
\end{array}$$の解であるとともに、\(f\)が点\(x^{\ast }\)において全微分可能である場合、その点が満たす条件が明らかになりました。加えて、条件を満たす点の特定を容易にするラグランジュの未定乗数法について解説しました。
ただ、最小化のための必要条件は目的関数が全微分可能な内点を対象とした条件であり、目的関数が全微分可能ではない内点について何も言っていません。目的関数が全微分可能ではない内点もまた最小点になり得るため、そのようなすべての点も最小点の候補に加える必要があります。
加えて、これまでは目的関数\(f\)の定義域\(X\)の内点のみを対象に議論を行ってきましたが、定義域\(X\)の境界点もまた最小点になり得るため、\(X\)が境界点を要素として持つ場合、そのようなすべての点も最小点の候補に加える必要があります。
以上を踏まえると、線型等式制約のもとでの最小化問題の解を求めるためには以下の手順にしたがう必要があります。
- 最小点が存在することを確認する。その際、最大値・最小値の定理などが役に立つ。
- 目的関数\(f\)の定義域\(X\)の内点の中でも、最小化のための必要条件を満たす点をすべて特定する。その際、ラグランジュの未定乗数法を使えば作業が円滑に進む。
- 目的関数\(f\)の定義域\(X\)の内点の中でも、制約条件を満たすとともに、関数が全微分可能ではない点をすべて特定する。
- 目的関数\(f\)の定義域\(X\)に含まれる境界点の中でも、制約条件を満たす点をすべて特定する。
- 以上の点の中でも\(f\left( x\right) \)の値を最小化する点が最小点である。
特に、目的関数\(f\)の定義域\(X\)が\(\mathbb{R} ^{n}\)上の開集合であるとともに、\(f\)が\(X\)上の任意の点において全微分可能である場合には、関数\(f\)が全微分可能ではない点や、関数\(f\)の定義域\(X\)に含まれる境界点は存在しないことが保証されるため、最小点を特定するためには以下の手順にしたがえばよいということになります。
- 最小点が存在することを確認する。その際、最大値・最小値の定理などが役に立つ。
- 目的関数\(f\)の定義域\(X\)の内点の中でも、最小化のための必要条件を満たす点をすべて特定する。その際、ラグランジュの未定乗数法を使えば作業が円滑に進む。
- 以上の点の中でも\(f\left( x\right) \)の値を最小化する点が最小点である。
x_{2}\right\vert
\end{equation*}を定めるものとします。以下の最小化問題
$$\begin{array}{cl}\min\limits_{\left( x_{1}x_{2}\right) \in \mathbb{R} ^{2}} & f\left( x_{1},x_{2}\right) \\
s.t. & x_{1}+x_{2}=0
\end{array}$$について考えます。\(f\)はコンパクト集合\(H\)上に定義された連続関数であるため、最大値・最小値の定理より最小点が存在します。ただ、\(f\)が全微分可能なのは\(x_{1}\not=0\)かつ\(x_{2}\not=0\)を満たす点\(\left(x_{1},x_{2}\right) \in \mathbb{R} ^{2}\)に限定されます。ラグランジュ関数を、\begin{equation*}L\left( x_{1},x_{2},\mu \right) =\left\vert x_{1}\right\vert +\left\vert
x_{2}\right\vert +\mu \left( x_{1}+x_{2}\right)
\end{equation*}と定義します。\(\left( x_{1}^{\ast},x_{2}^{\ast }\right) \in \mathbb{R} ^{2}\)が最小点であるならば、以下の条件\begin{eqnarray*}&&\left( a_{1}\right) \ \frac{\partial L\left( x_{1},x_{2},\mu \right) }{\partial x_{1}}=\frac{x_{1}}{\left\vert x_{1}\right\vert }+\mu =0 \\
&&\left( a_{2}\right) \ \frac{\partial L\left( x_{1},x_{2},\mu \right) }{\partial x_{2}}=\frac{x_{2}}{\left\vert x_{2}\right\vert }+\mu =0 \\
&&\left( b\right) \ \frac{\partial L\left( x_{1},x_{2},\mu \right) }{\partial \mu }=x_{1}+x_{2}=0
\end{eqnarray*}を満たす\(\left( x_{1},x_{2}\right) \)を特定することになります。ただし、\(x_{1}\not=0\)かつ\(x_{2}\not=0\)です。\(x_{1}>0\)とすると\(\left( b\right) \)より\(x_{2}<0\)であるため、\(\left( a_{1}\right) \)より\(1+\mu =0\)を得て、\(\left( a_{2}\right) \)より\(-1+\mu =0\)を得ますがこれは矛盾です。\(x_{1}<0\)とすると\(\left( b\right) \)より\(x_{2}>0\)であるため、この場合にも同様にして矛盾が導かれます。したがって、\(x_{1}\not=0\)かつ\(x_{2}\not=0\)を満たす\(H\)上の点の中に最小化のための必要条件を満たす点は存在しません。残された最小点の候補は\(f\)が全微分可能ではない\(H\)上の点、すなわち\(x_{1}=0\)または\(x_{2}=0\)の少なくとも一方を満たす\(H\)上の点です。それらの点の中で\(f\)を最小化するのは点\(\left( 0,0\right) \)です。したがって\(\left( 0,0\right) \)が最小点であり、最小値は\(f\left(0,0\right) =0\)です。
演習問題
=x_{1}^{2}+2x_{1}x_{2}+3x_{2}^{2}+4x_{1}+5x_{2}+6x_{3}
\end{equation*}を定めるものとします。以下の最小化問題
$$\begin{array}{cl}\min\limits_{\left( x_{1},x_{2},x_{3}\right) \in \mathbb{R} ^{3}} & f\left( x_{1},x_{2},x_{3}\right) \\
s.t. & x_{1}+2x_{2}=3 \\
& 4x_{1}+5x_{3}=6
\end{array}$$を解いてください。
\end{equation*}であることが分かっているものとします。期待収益の目標値として\(12\%\)を設定した上でリスクを最小化するためには\(x,y,z\)の値をそれぞれどのように定めればよいでしょうか。議論してください。
プレミアム会員専用コンテンツです
【ログイン】【会員登録】