非线性规划（NP）包括最小化或最大化非线性目标函数受到约束的限制，线性约束，或非线性约束，其中所述约束条件可以是不等式或等式。在工程实施例的问题包括分析设计折衷，选择最佳的设计中，计算最佳的轨迹，并投资组合优化以及计算金融学中的模型标定。
无约束非线性规划是寻找一个向量\(x\)的数学问题，它是非线性标量函数\(f(x)\)的局部最小值。Unconstrained意味着对\(x\)的取值范围没有任何限制
\ [\ min_x f (x) \]
无约束非线性规划常用的算法有:
- 拟牛顿:使用二次线和三次线的混合搜索程序和Broyden-Fletcher-Goldfarb-Shanno (BFGS)公式更新Hessian矩阵的近似值
- Nelder-Mead:使用直接搜索算法只使用函数值（不需要的衍生物）和把手非光滑目标函数
- 信赖域:用于无约束非线性优化问题，尤其适用于可开发稀疏性或结构的大型问题
约束非线性规划是寻找一个向量\(x\)使受一个或多个约束的非线性函数最小化的数学问题。
求解约束非线性规划问题的算法包括:
- 内点:对具有稀疏性或结构的大规模非线性优化问题尤其有用
- 序列二次规划(SQP):解决一般非线性问题，并在所有迭代中遵守边界
- 信赖域反射:只解决有界约束的非线性优化问题或线性等式
