1、第二章 优化设计的数学基础,机械优化设计是建立在多元函数的极值理论基础上 无约束优化问题就是数学上的无条件极值问题 约束优化问题则是数学上的条件极值问题,一.多元函数的方向导数与梯度,1)函数的偏导数就是这个函数对自变量的变化率。,1. 方向导数,2) 二元函数的方向导数 即沿某一方向d 的变 化率，定义为3.方向导数与偏导数的 关系,n元函数的方向导数,2. 二元函数的梯度,2)二元函数梯度的几何解释,2)二元函数梯度的几何解释,2)二元函数梯度的几何解释,2)二元函数梯度的几何解释,2)二元函数梯度的几何解释,2)二元函数梯度的几何解释,3.多元函数的梯度,将二元函数推广到多元函数，对于多
2、元函数f(x)在X0处的梯度，可表示为,梯度的模,二.多元函数的泰勒展开,例题（一）,例题（二）,课堂作业,计算 在 沿 的方向导数、梯度，用图表示梯度方向。用矩阵形式表示以上函数，并写出海赛阵。,2019/5/5,18,三.优化的极值条件,1. 无约束优化的极值条件2. 等式约束优化的极值条件3. 不等式约束优化的极值条件,1. 无约束优化问题的极值条件,极值条件就是指目标函数取得极小值时极值点所应满足的条件 任何一个单值、连续、可微分的不受任何约束的一元函数f(x)在点(x0)处有极值的充分必要条件是对于二元函数，若在点(x0)处取得极值其必要条件是,二元函数取得极值的充分条件,(1) 二
3、元函数在点(x0)处的泰勒展开式，考虑上述极值必要条件，有(2) 若f(x1,x2)在(x10,x20)处取得极小值，则要求其附近的一切点均须满足,(3) 此条件反映了在点(x10,x20)处的海赛矩阵G(x0)的各阶主子式均大于零，即(4) 二元函数在某点处取得极值的充分条件是要求在该点处的海赛矩阵为正定,多元函数取得极值的充要条件,2. 等式约束优化问题的极值条件,(1) 求解等式约束优化问题 (2) 思路：将其转化为无约束优化问题，有两种常用的方法: (1) 消元法（降维法） (2) 拉格朗日乘子法（升维法）,消元法（降维法）,对于n维问题，可由l个约束方程将n个变量中的前l个变量用其余
4、nl个变量表示，即有将这些函数关系代入到目标函数中，从而得到只含 的共nl个变量的函数 就可以利用无约束优化问题的极值条件求解。, 拉格朗日乘子法,通过增加变量将等式约束优化问题变成无约束优化问题。所以又称作升维法对于具有l个约束的N维问题,通过增加变量将等式约束优化问题变成无约束优化问题。所以又称作升维法 对于具有l个约束的N维问题引入拉格郎日乘子 构成一个新的目标函数将其作为一个新的无约束条件的目标函数来求解它的极值点，所得结果就是原等式约束问题的极值点。,新的目标函数具有极值点的必要条件为一共可得n+l个方程，从而可解得(x,)共n+l个未知变量的值。由上述方程组求得的x*即为原等式约束
5、优化问题的极值点。,等效证明： 二维问题,三维问题,极值点在f等值面与面 的切点处 ，有,3. 不等式约束优化的极值条件,(1) 对于多元函数不等式的约束优化问题 (2) 求解思路,不等式约束,等式约束,无约束 优化,引入松驰变量,拉格朗日乘子,拉格朗日乘子法,新的目标函数,无约束极值条件，在极值点处有,在边界上,在边界内,无约束极值条件，在极值点处有,库恩塔克条件,库恩塔克条件,上式表明库恩塔克条件的几何意义是，在约束极小值点x*处，函数f(x)的负梯度一定能表示成所有起作用约束在该点梯度的非负线性组合,库恩塔克条件扩展,对于同时具有等式和不等式的约束的优化问题 库恩塔克条件可表述为,例题：
6、无约束优化问题,求函数的极值首先，根据极值的必要条件求驻点再根据极值的充分条件，判断其海赛矩阵是否正定,例题：等式约束优化问题,用拉格朗日乘子法改造目标函数,例题：库恩塔克条件,此问题在设计空间平面上的图形如图所示，它的K-T条件表示为,例题：库恩塔克条件 (1)若g1,g2,g3在x*处都起作用,K-T条件中的第一个方程可写为,三个方程两个未知数 属矛盾方程组,例题：库恩塔克条件 (2)若g1,g3在x*处都起作用,K-T条件中的第一个方程可写为,不满足非负要求,例题：库恩塔克条件 (3)若g1,g2在x*处都起作用,K-T条件中的第一个方程可写为,X1=1 不满足g3,满足非负要求,小结,
7、多元函数的方向导数与梯度 多元函数的泰勒展开 无约束优化的极值条件 等式约束优化的极值条件 拉格朗日乘子法 不等式约束优化的极值条件 库恩塔克条件,习题,四 凸集与凸函数,凸集,非凸集,凹集,*若X是X1和X2连线上的点，则有,一.凸集- 若任意两点 ，对于 ， 恒有 ，则 D 为凸集。,整理后即得,二.凸函数,设f(X)为定义在 Rn 内一个凸集D上的函数，若对于 及D上的任意两点X1,X2,恒有则f(X)为定义在D上的一个凸函数。,1.定义,2.凸函数的基本性质,两边乘上,证: 由定义,（1）设 为定义在凸集D上的凸函数， 为任意正实数,则 也是定义在 D上的凸函数。,证: 由定义,（2）设 、 均为定义在凸集D上的凸函数，则 + 也是定义在 D上的凸函数。,两式相加,整理后可得证.,（3）设 、 均为定义在凸集D上的凸函数， 为任意正实数，则 也是定义在D上的凸函数。,3.凸函数的判定,若D为凸集，F(x)为定义在D上的凸函数，则此规划为凸规划。,对于数学规划问题：,4.凸规划,凸规划的最优点是唯一的.,作业,
