主要内容年代pan>
이번역페이지는최신내용을담고있지않습니다。최신내용을문으로보려면여기를클릭하십시오。
제약조건이있는비선형최적화알고리즘
<年代pan id="csh_constrained" class="anchor_target">
제약조건이있는최적화정의
gydF4y2Ba제약조건이있는최소화는스칼라함수f (x)의국소최솟값벡터x를구하는문제입니다。여기서,x에제약조건이적용됩니다。
c (x)≤0,测查(x) = 0, x·≤b, Aeq·x =说真的,l≤x≤u年代pan>와같은조건들을정의할수있습니다。반무한계획법에는훨씬더많은제약조건을사용합니다。Fseminf문제정식화및알고리즘항목을참조하십시오。
年代ect我on>
fmincon의信任区域反射알고리즘<年代ect我on itemprop="content">
비선형최소화를위한信任区域방법
优化工具箱™솔버에사용되는대부분의방법이최적화의단순하지만강력한개념인<年代pan class="emphasis">신뢰역年代pan>을기반으로합니다。
gydF4y2Ba최적화에대한信赖域접근법을이해하기위해제약조건이없는최소화문제를살펴보고,f (x)를최소화해보겠습니다。여기서함수는벡터수를받고스칼라를반환합니다。n공간에서점x에있고향상,즉더낮은함수값을가지는점으로이동하기를원한다고가정해보겠습니다。기본적인발상은점x주위에있는이웃N에서함f의수동작을잘반영하는더간단한함q수를사용하여f를근사하는것입니다。이이웃을신뢰역이라고합니다。시행스텝s는N에대한최소화(또는근사최소화)를수행하여계산됩니다。이를trust-region하위문제라고하며,다음과같습니다。
|
(1)年代trong> |
현재 점은<年代pan class="inlineequation">F (x + s) < F (x)年代pan>경우x + s가되도록업데이트됩니다。그렇지않은경우현재점은변경되지않고그대로유지되며신뢰영역N은축소되고시행스텝계산이반복됩니다。
f(x)를최소화하기위한특정信赖域접근법을정의할때고려해야할핵심질문은근삿값q(현재점x에서정의됨)를선택하고계산하는방법은무엇인가,신뢰영역N을선택하고수정하는방법은무엇인가,그리고信赖域하위문제를얼마나정확하게풀수있는가입니다。이섹션에서는제약조건이없는문제를집중적으로설명합니다。뒷부분에나오는섹션에서는변수에대한제약조건이존재함으로인해복잡성이얼마나가중되는지에대해설명합니다。
gydF4y2Ba` ` ` `준trust-region방법([48]2)에서는차근삿값q x가에서F에대한테일러근사의처음두항으로정의되며,이웃N은일반적으로구면또는타원형태입니다。수학적으로trust-region하위문제는대개다음과같이通讯录기됩니다。
|
(2)年代trong> |
g는여기서현재점x에서f의기울기이고,H는헤세행렬(2계도함수의대칭행렬)이고,D는대각스케일링행렬이고,Δ는양의스칼라이며,∥。∥는2-노름입니다。수식2를푸는데사용할수있는좋은알고리즘이있습니다([48]참조)。이러한알고리즘은일반적으로다음과같은고유방정식에적용되는뉴턴과정및H의모든고유값에대한계산을포함합니다。
이러한알고리즘은수식2에대한정확한해를제공합니다。하지만,이알고리즘을사용하려면H에대한여러행렬분해에비례하는시간이필요합니다。따라서,대규모문제에는다른접근법이필합니다。수식2기반한여러근사법과발견법전략이참고문헌([42]및[50])에서제되었습니다。优化工具箱솔버에서따르는근사접근법은信赖域하위문제를2차원부분공간([39]및[42])로제한하는것입니다。부분공간s가계산되고나면수식2를푸는방법은간단합니다。비희소고유값/고유벡터정보가필한경우에도마찬가지입니다。그이유는부분공간에서는문제가2차원뿐이기때문입니다。이제수행해야하는주된작업은부분공간을결정하는것입니다。
2gydF4y2Ba차원부분공간年代는아래에설명되어있는선조건적용켤레기울기법과정을통해결정됩니다。솔버는S를S<年代ub>1및年代<年代ub>2에의해생성되는선형공간으로정의합니다。여기서s<年代ub>1은기울기g의방향이고s<年代ub>2는근사뉴턴방향,즉다음수식에대한해를말합니다。
|
(3)年代trong> |
또는다음과같은음의곡률방향입니다。
|
(4)年代trong> |
이러한年代선택의바탕이되는철학은(최속강하법방향또는음의곡률방향을통해)전역수렴을강제적용하고(존재하는경우뉴턴스텝을통해)신속하게국소수렴을달성한다는것입니다。
gydF4y2Ba信赖域알고리즘을사용한제약조건이없는최소화과정은이제다음과같이간단하게요약할수있습니다。
2차원trust-region하위문제를정식화합니다。
수식2를풀어서시행스텝s를결정합니다。
F (x + s) < F (x)年代pan>이면<年代pan class="inlineequation">X = X + s年代pan>입니다。
Δ를조정합니다。
이네단계는수렴할때까지반복됩니다。Trust-region차원Δ는通讯录준규칙에따라조정됩니다。특히,시행스텝이받아들여지지않은경우,즉<年代pan class="inlineequation">F (x + s)≥F (x)年代pan>ric경우에는trust-region차원이축소됩니다。이사항에대한자세한내용은[46]항목과[49]항목을참조하십시오。
gydF4y2Ba优化工具箱솔버는비선형최소제곱,2차함수,선형최소제곱등의특화된함수를사용하여f에대한몇가지중요한특수사례를처리합니다。하지만,기반이되는알고리즘적발상은일반적marketing사례와동일합니다。이러한특수사례에대해서는뒷부분에나오는섹션에서설명합니다。
年代ect我on>
선조건적용켤레기울기법(预条件共轭梯度法)
선조건적용켤레기울기법(pcg)은대규모양의정부호대칭선형연립방정식<年代pan class="inlineequation">Hp = -g年代pan>를푸는데자주사용되는방법입니다。이반복적인접근법을사용하려면H·v형식의행렬——벡터곱을계산할수있어야합니다。여기서v는임의벡터입니다。양의정부호대칭행렬m은h에대한<年代pan class="emphasis">선조건자年代pan>입니다。즉,<年代pan class="inlineequation">M = c<年代up>2年代pan>입니다。여기서<年代pan class="inlineequation">C<年代up>1HC1年代pan>은조건이좋은행렬이거나서로다른고유값이모여있는행렬입니다。
gydF4y2Ba최소화의맥락에서는헤세행렬h가대칭행렬이라고간주할수있습니다。하지만,h는강력한최소점의이웃경우에만양의정부호행렬여부가보장됩니다。알고리즘pcg는음의곡률(또는곡률)방향이발생한경우,즉<年代pan class="inlineequation">d<年代up>THd≤0경우에종료됩니다。PCG출력값방향p는음의곡률방향이거나뉴턴시스템<年代pan class="inlineequation">Hp = -g年代pan>에대한근사해입니다。어느경우이든p는비선형최소화를위한信任区域방법에설명된信赖域접근법에사용되는2차원부분공간을정의하는데도움이됩니다。
年代ect我on>
선형등식제약조건
선형제약조건이있으면제약조건이없는최소화보다상황이복잡해집니다。그러나,앞에서설명한기본아이디어를깔끔하고효율적marketing방식으로수행할수있습니다。优化工具箱솔버의信赖域방법은엄밀하게실현가능한반복을생성합니다。
gydF4y2Ba일반적선형등식제약조건이있는최소화문제는다음과같이작성할수있습니다。
|
(5)年代trong> |
여기서A는m×n행렬(<年代pan class="inlineequation">M≤n年代pan>)입니다。일부优化工具箱솔버는<年代up>T[46]LU분의해를기반으로하는기법을사용하여一를전처리함으로써엄밀한선형종속성을제거합니다。여기서,A의랭크가m이된다고가정합니다。
수식5를풀때사용하는방법은두가지중요한측면에서제약조건이없는접근법과다릅니다。먼저,희소최소제곱스텝을사용하여<年代pan class="inlineequation">斧头<年代ub>0= b가되도록초기실현가능점x<年代ub>0이계산됩니다。둘째로,감소된근사뉴턴스텝(또는一의영공간에서음의곡률의방향)을계산하기위해알고리즘PCG가감소된선조건적용켤레기울기(RPCG) ([46]참조)로대체됩니다。주선형대수스텝에는다음형식의시스템을푸는과정이포함됩니다。
|
(6)年代trong> |
여기서<年代pan class="inlineequation">
는一를근사하고(랭크가손실되지않는경우一의몇안되는0이아닌요소는0으로설정됨)C는H에대한양의정부호희소대칭근사입니다(즉,<年代pan class="inlineequation">C = h年代pan>).자세한내용은[46]항목을참조하십시오。
年代ect我on>
상자제약조건
상자제약조건이있는문제의형식은다음과같습니다。
|
(7)年代trong> |
여기서l은하한으로구성된벡터이고,u는상한으로구성된벡터입니다。l의일부(또는전체)성분은-∞와같을수있으며u의일부(또는전체)성분은∞와같을수있습니다。이방법은일련의엄밀한실현가능점을생성합니다。견고한수렴을달성하는동시에실현가능성을유지하기위해두기법이사용됩니다。먼저,스케일링되고수정된뉴턴스텝이제약조건이없는뉴턴스텝을대체합니다(2차원부분공간年代를정의하기위해)。둘째로,스텝크기를늘리기위해반사가사용됩니다。
gydF4y2Ba스케일링되고수정된뉴턴스텝은다음과같은수식7에대한쿤-터커(库恩-塔克)필조건을검토하는과정에서발생합니다。
|
(8)年代trong> |
여기서는다음을조건으로하며
벡터v(x)는<年代pan class="inlineequation">1≤I≤n年代pan>에대해아래와같이정의됩니다。