主题
为什么优化算法会停在局部最优?
问题
同一个目标函数换初值以后,两次迭代都稳定下来,但最终目标值不同。怎样判断发生了什么?
快速回答
局部算法通常根据当前位置的斜率或附近试探更新。若不同初值进入不同的吸引域,即使每次都收敛,也可能得到深度不同的谷底。
原因解释
考虑
处理建议
把停止时的
特殊情况
若能证明目标凸并且可行域凸,满足适当最优性条件的局部极小点也是全局极小点。对于带约束、非光滑、含整数变量的问题,适用条件不同,要用对应模型的判据。
常见误区
看到曲线停平就报告全局最优。过小的步长、鞍点和精度限制也会造成停滞。多初值相同结果可以增加信心,要证明全局最优还需要结构性依据或可信的上下界。