含约束的最优化方法分类[译]
二次规划 (QP)
我们单独考虑这一类问题, 因为它的内在重要性, 因为它的特殊性可以被高效的算法所利用, 也因为二次规划常被用来求解序列二次规划 (SQP) 和某些非线性规划的内点方法. 我们讨论了起作用集、内点和梯度投影方法.
罚函数 (Penalty) 和增强拉格朗日法 (Augmented Lagrangian)
通过将目标函数和约束条件组合成一个惩罚函数 (Penalty function), 我们可以通过解决一连串的无约束问题来攻克问题.
序列二次规划 (SQP)
该方法在每个迭代处用二次规划 (QP) 子问题来近似原问题, 并将搜索方向定义为该子问题的结果.
内点法 (Interior-point method)
这些方法可以看作是线性规划 (LP) 的原始-对偶 (primal-dual) 内点法的扩展. 我们也可以把它们看作是障碍函数法 (Barrier method).