1、第二十一讲 非线性规划（一）,1 非线性规划问题的现实来源问题的提出 2 非线性规划的数学模型及特点 3 解和算法的基本性质 4 非线性规划求解方法分类,1 非线性规划问题的现实来源问题的提出 （1）,在规划模型中，如果在目标函数或在约束条件中有一个或多个是自变量的非线性函数，则称这种规划为非线性规划问题。 就现实问题，严格讲来，基本属于非线性规划模型。 现举例说明非线性规划的现实背景。 例4-1某公司经营两种设备。第一种设备每件售价为30元，第二种设备每件售价为450元。且知，售出第一、二种设备分别需时为每件约0.5小时和（2+0.25x2）小时，其中x2为第二种设备售出数量。公司的总营业时
2、间为800小时。 求：公司为获取最大营业额（销售额）的最优营业计划。,1 非线性规划问题的现实来源问题的提出 （2）,解设公司应经营销售第一、二种设备数额分别为x1件和x2件，追求的目标为最大销售额，即： 目标函数f(X)=30x1+450x2取极大 由于营业时间有限，必须满足：0.5x1+(2+0.25x2)x2800 当然，销售设备数不会为负数，即：x10，x20 综合得出该问题数学模型为： 目标函数 max：f(X) =30x1+450x2 约束条件 0.5x1+2x2+0.25x22800x10，x20,2 非线性规划的数学模型及特点 （1）,非线性规划的数学模型通常表示成以下形式。m
3、in f(X)hi(X)=0 i=1，2，mgj(X)0 j=1，2，l例4-3求解下述非线性规划min f(X)=(x12)2+(x22)2h(X)=x1+x26=0,显然，与直线AB相切的点必为最优解。 图4-1(a)中的D点即为最优点，此时目标函数值为： f(X*)=2，x1*=x*2=3,2 非线性规划的数学模型及特点 （2）,例4-4非线性规划为 min f(X)=(x12)2+(x22)2h(X)=x1+x260 显然，此时的最优解为C点(x1*=x2*=2 ，f(X*)=0)，该点落在可行或内部，其边界约束失去作用。 从前面例中看出，非线性规划的最优解（如果存在）可在其可行域上任
4、一点达到。因而，非线性规划数学模型可以没有约束条件，即存在无约束最优化问题。,2 非线性规划的数学模型及特点 （3）,3 解和算法的基本性质 （1）,1极小点、凸集及其关系 极小点定义 i) 对于X* Q，如果存在一个 0，使所有与X*的距离 小于 的X Q（即X Q，且|XX*|f(X*)，则称X*为f在Q上的一个严格相对极小点。,3 解和算法的基本性质 （2）,ii)点X* Q，如果对于所有X Q成立f(X)f(X*)，则称X* 为f在Q上的全局极小点。同样，若对于所有X Q， XX*时，存在f(X)f(X*)，则称X*为f在Q上的严格全局极 小点。尽管问题的提法往往求全局极小点，然而，无
5、论从 理论上或从计算观点看，实践现实性表明我们必须以很 多情形上满足一个相对极小点。当然，对于凸规划，这 二者是统一的。,3 解和算法的基本性质 （3）,相对极小点的判定 可行方向概念：沿给定方向作离开该点运动，若运动轨迹在可行域内，则称该运动方向为可行方向（通常用d表示）。 若从某点开始，沿任一可行方向运动（运动距离很小）都不能使目标函数减少，则据定义，知该点即为相对极小点。 i) 判定极小点的必要条件（证明从略）,3 解和算法的基本性质 （4）,命题1 （一阶必要条件）：设是En子集，f(X) C1(C1表明存在一阶导数)是上函数，若X*是f( X)在上一个相对极小点，则对于任一X*的可行
6、方向dEn必有f(X*)d0。（其中，f(X*)表示函数f( X)的一阶梯度或导数） 命题2 （二阶必要条件有约束情况）：设是En的一个子集，且f( X) 2（2表明存在二阶导数）是上的一个函数。若X*是f( X)在上的一个相对极小点。则对于任一X*处的可行方向dn有： A) f(X*)d0 B) f(X*)d=0，则必有dT2 f(X*)d0 2 f( X)表示f( X)的第二阶梯度或二阶导数，又称Hess或海森阵，亦可用H或F表示。,3 解和算法的基本性质 （5）,命题3 （二阶必要条件无约束情况）：设X*是集合的内点，且X*是函数f(X)C2在上一个相对极小点。则： A) f(X*)=0
7、 B) 对于所有d，则dT2 f(X*)d0 ii)判断极小点的充分条件 命题（二阶充分条件无约束）：设f(X)C2 是定义在以X*为内点的一个区域上的函数，若 A) f(X*)=0 B) Hess阵H(X*)正定（或负定） 则X*是f(X)的严格极小点（或极大点）,3 解和算法的基本性质 （6）,iii)极小点的充分必要条件无约束情形。（略） 凸函数与凹函数 i)定义： 凸集：若在X集合中，任意两点之联线都落在该集合内，则称该集合为X的凸集。 凸函数：定义在凸集上的函数f(X)称为凸函数，条件是对于每一对x1，x2及每一个a，0a1存在： f(ax1+(1a)x2)a f(x1)+1(1a)
8、f(x2)上式中，若变为，则称为严格凸函数。,3 解和算法的基本性质 （7）,凸函数在2维空间的形状象一口锅的纵剖面，参见图4-2。 凹函数：定义在凸集上的函数g(X)称为凹函数，条件是函数f(X)= g(X)是凸的。若 g(X)是严格凸的，则g(X)是严格凹的，因此凸与凹是严格对应的，以后就只研究凸函数即可。,3 解和算法的基本性质 （8）,ii）有关性质（凸函数性质） 设f1(X)，f2(X)是凸集上的凸函数，则函数f1(X)+f2(X)在上也是凸函数。 设f(X)是凸集上的凸函数，则对任意的a0，函数af(X)是凸的。 设f(X)是凸集上的凸函数，对每一个实数C，则集合 Cx：x，f(X
9、)C是凸集。 iii) 凸函数的判定（略）,3 解和算法的基本性质 （9）,凸规划定义：已知非线性规划：min f(X)gj(X)0 若f(X)为凸函数，gj(X)为凹函数，则称该规划为凸规划。凸规划的局部极值点即为全局极值点。 线性规划为凸规划。 2下降算法的收敛性问题（定性分析）（略）,4 非线性规划求解方法分类（1）,1一维最优化 斐波那契（Fibonacci）法 黄金分割法（0.618法） 牛顿法（切线法） 抛物线逼近法 成功和失败法,4 非线性规划求解方法分类（2）,2多维最优化 无约束情形 (i) 采用导数：(a)梯度法(b)牛顿法(c)共轭梯度法(d)变尺度法,4 非线性规划求解方法分类（3）,(ii) 不采用导数：(a)直接法（模式搜索法） (b)可变多面体法 (c)鲍威尔法 (d)随机搜索法,4 非线性规划求解方法分类（4）,有约束情形 (i)线性逼近法 (ii)可行方向法 (iii)罚函数法 (iv)可变容差法 非线性规划的求解方法很多，上面列出的仅是一些常用的方法。后面将简单介绍几个最基本解法的思路和步骤。,
