Skip to content

为什么优化算法会停在局部最优? ​

问题 ​

同一个目标函数换初值以后,两次迭代都稳定下来,但最终目标值不同。怎样判断发生了什么?

快速回答 ​

局部算法通常根据当前位置的斜率或附近试探更新。若不同初值进入不同的吸引域,即使每次都收敛,也可能得到深度不同的谷底。

原因解释 ​

考虑 f(x)=(x2−1)2+0.2x。四次项造成双谷,线性项让左侧谷更深。用 xk+1=xk−0.05[4xk(xk2−1)+0.2] 更新,从 −1.6 出发到约 −1.024,从 1.6 出发到约 0.974。两处斜率都趋近零,目标值约为 −0.2024 和 0.1974。一阶条件描述各自邻域的平坦程度,两次的目标值之差来自两个谷底的高度差。

处理建议 ​

把停止时的 x、目标值、梯度和是否满足约束一并记录。对小例,求全体临界点并检查二阶导数和边界;对更一般的问题,用多初值报告搜索到的最好值与差异。 非线性优化双语言实验

特殊情况 ​

若能证明目标凸并且可行域凸,满足适当最优性条件的局部极小点也是全局极小点。对于带约束、非光滑、含整数变量的问题,适用条件不同,要用对应模型的判据。

常见误区 ​

看到曲线停平就报告全局最优。过小的步长、鞍点和精度限制也会造成停滞。多初值相同结果可以增加信心,要证明全局最优还需要结构性依据或可信的上下界。

关联文章 ​

MathModel FAQ · 数学建模知识库