非光滑问题的求解行为

这个例子说明了为优化问题选择一个合适的求解器的重要性。它还表明,非平滑的单点可能会导致优化工具箱™求解器出现问题。

通常,解决方案决策表提供了关于哪种解决方案最适合您的问题的指导。对于平滑问题,参见优化决策表(优化工具箱)。对于非光滑问题,参见选择求解器的表首先,更多信息请咨询全局优化工具箱求解器的特点

一个只有一个非光滑点的函数

这个函数 f ( x ) = | | x | | 1 / 2 在点0处是非光滑的,这是最小值点。这是一个二维的图矩阵范数对于4-D点 ( x ( 1 ) x ( 2 ) 0 0 ]

图x = linspace(-5,5,51);[xx, yy] = meshgrid (x);zz = 0(大小(xx));2 = 1:长度(x)jj = 1:长度(x) zz ii, jj =√(规范([xx (ii, jj), yy (ii, jj), 0, 0)));结束结束冲浪(yy, xx zz)包含(“x”(1))ylabel (“x”(2))标题(“规范([x (1), (2), 0, 0)) ^ {5}”)

这个例子对一个2×6矩阵使用矩阵范数x。矩阵范数涉及奇异值分解,这是不顺利,因为欧几里得范数。看到2-Norm矩阵(MATLAB)。

尽量减少使用patternsearch

patternsearch是推荐的第一个解决方案,以尝试非光滑的问题。看到选择求解器的表。开始patternsearch从一个非零的2×6矩阵x0,并尝试找出的最小值 f 。对于此尝试和所有其他尝试,请使用默认解决方案选项。

返回该溶液中,这应该是接近零,目标函数值,该值同样应该接近零,以及函数评估的数目作出。

有趣= @ (x)规范([x (1:6); (7:12))) ^ (1/2);x0 = (1:6; 7:12);rng默认的x0 = x0 + rand(大小(x0))
x0 =2×61.8147 2.1270 3.6324 4.2785 5.9575 6.1576 7.9058 8.9134 9.0975 10.5469 11.9649 12.9706
(xps、fvalps eflagps outputps] = patternsearch(有趣,x0);
终止优化:网孔尺寸小于选择。网孔公差。
xps、fvalps eflagps outputps.funccount
xps =2×6104×0.1116 -0.1209 0.3503 -0.0520 -0.1270 0.2031 -0.3082 -0.1526 0.0623 0.0652 0.4479 0.1173
fvalps = 0.0073
eflagps = 1
ans = 10780

patternsearch达到一个好的解决方案,正如出口标志1所示。然而,它需要10,000多个函数计算来收敛。

尽量减少使用fminsearch

文件表明fminsearch有时可以处理不连续,所以这是一个合理的选择。

(广播xfm fvalfms、eflagfms outputfms] = fminsearch(有趣,x0);
退出:已超过函数计算的最大数目-增加MaxFunEvals选项。当前函数值:3.197063
广播xfm、fvalfms eflagfms outputfms.funcCount
广播xfm =2×62.2640 1.1747 9.0693 8.1652 1.7367 -1.2958 3.7456 1.2694 0.2714 -3.7942 3.8714 1.9290
fvalfms = 3.1971
eflagfms = 0
ans = 2401

使用默认选项,fminsearch在函数计算收敛到解之前耗尽函数计算。退出标志0表示缺乏收敛性。报告的解决方案很差。

使用particleswarm

particleswarm建议作为下一个解决方案进行尝试。看到选择非光滑问题的解决方案

[xpsw, fvalpsw eflagpsw outputpsw] = particleswarm(有趣,12);
优化结束:目标值相对于最后一个选项的相对变化。maxstalliteration小于OPTIONS.FunctionTolerance。
xpsw、fvalpsw eflagpsw outputpsw.funccount
xpsw =1×1210-12年×-0.0386 -0.1282 -0.0560 0.0904 - 0.0771 -0.0541 - 0.1290 -0.0032 - 0.0165 - 0.0728 -0.0026
fvalpsw = 4.5222 e-07
eflagpsw = 1
ans = 37200

particleswarm找到比。更精确的解patternsearch,但需要进行超过35,000次的功能评估。退出标志1表示解决方案是好的。

使用遗传算法

遗传算法是一个流行的求解器,但不建议作为第一个求解器去尝试。看看它在这个问题上的效果。

(xga fvalga、eflagga outputga] = ga(有趣,12);
终止优化:适应度值的平均变化小于选择。功能公差。
xga、fvalga eflagga outputga.funccount
xga =1×12-0.0061 -0.0904 0.0816 -0.0484 0.0799 -0.1925 0.0048 0.3581 0.0848 0.0232 0.0237 -0.1294
fvalga = 0.6257
eflagga = 1
ans = 65190

遗传算法没有找到一个好的解决方案patternsearchparticleswarm,并需要大约两倍的函数计算particleswarm。在这种情况下,退出标志1具有误导性。

使用fminunc从优化工具箱

fminunc不建议用于非光滑函数。看看它在这个上的表现。

[xfmu, fvalfmu eflagfmu outputfmu] = fminunc(有趣,x0);
局部最小值。fminunc停止,因为当前步骤的大小小于步长公差值。
xfmu、fvalfmu eflagfmu outputfmu.funcCount
xfmu =2×6-0.5844 -0.9726 - 0.1467 - 0.3263 -0.1002 -0.0769 -0.1092 -0.3429 -0.6856 -0.7609 -0.6524
fvalfmu = 1.1269
eflagfmu = 2
ans = 442

fminunc解决的不如解决的好遗传算法解决方案。然而,fminunc在相对较少的函数计算中得到较差的解。退出标志2表示您应该小心,在报告的解决方案中不满足一阶优化条件。

使用fmincon从优化工具箱

fmincon有时可以最小化非光滑函数。看看它在这个上的表现。

[xfmc, fvalfmc eflagfmc outputfmc] = fmincon(有趣,x0);
局部最小值。约束满足。fmincon之所以停止,是因为当前步长小于该步长公差的值,且约束满足约束公差的值内。
xfmc、fvalfmc eflagfmc outputfmc.funcCount
xfmc =2×610-10年0.1530 0.951 -0.2098 0.1464 -0.2330 0.1503 0.3891 -0.2477 -0.2373 -0.0222 0.4761 -0.2413
fvalfmc = 8.2669 e-06
eflagfmc = 2
ans = 1052

fmincon使用默认选项,在进行少于1000次的函数计算之后就可以生成精确的解决方案。退出标志2并不意味着解决方案不准确,而是不满足一阶最优性条件。这是因为目标函数的梯度在解处不为零。

总结的结果

选择合适的解决方案可以得到更好、更快的结果。这个摘要显示了结果的不同之处。溶液质量是“可怜的”如果目标函数值大于0.1,‘好’如果该值小于0.01,且“平庸”否则。

解算器= {“patternsearch”;“fminsearch”;“particleswarm”;“遗传算法”;“fminunc”;“fmincon”};SolutionQuality = {‘好’;“可怜的”;‘好’;“可怜的”;“可怜的”;‘好’};FVal = [fvalps fvalfms、fvalpsw fvalga, fvalfmu, fvalfmc) ';NumEval = [outputps.funccount outputfms.funcCount outputpsw.funccount,outputga.funccount、outputfmu.funcCount outputfmc.funcCount]”;结果=表(解算器,SolutionQuality、FVal NumEval)
结果=6×4表解决SolutionQuality FVal NumEval _________________售予__________ _________ {‘patternsearch}{‘好’}10780 - 0.0072656 {‘fminsearch}{“贫穷”}2401 - 3.1971 {‘particleswarm}{‘好’}4.5222 e-07 37200 {ga的}{“贫穷”}65190 - 0.62572 {‘fminunc}{“贫穷”}442 - 1.1269 {‘fmincon}{‘好’}8.2669 e-06 1052

结果的另一种观点。

身材保持i = 1:长度(FVal) clr = rand(1,3);情节(NumEval (ii), FVal (ii),'O',“MarkerSize”10“MarkerEdgeColor”clr,“MarkerFaceColor”clr)文本(NumEval (ii), FVal (ii) + 0.2,解算器{2},“颜色”,clr);结束ylabel (“FVal”)包含(“NumEval”)标题(“报告最小和评估通过求解”)举行

particleswarm达到最低的目标函数值,它是通过占用三倍多的函数计算来实现的patternsearch,是其30多倍fmincon

fmincon一般不建议用于非光滑问题。它在这种情况下是有效的,但是这种情况只有一个非光滑点。

相关话题