1、,第二章 最优化设计的基本理论术,2.2 目标函数的无约束极值条件,无约束情况下的最优化设计问题，实际上就是求一个多元函数()的极小值问题。也即 min ()=(*) * =x1*, x2* , x3*,.x n* T可能是全域最小点，也可能是局部极小点。这由()是单峰函数还是多峰函数确定。 本节讨论多元函数无约束极值问题的条件及如何判定全域最优问题。,2.2 目标函数的无约束极值条件,多元目标函数()的形式往往相当复杂。为了讨论其极值问题，需要用简单函数作局部的“逼近”。 在数学上常用的就是泰勒展开式，优化设计中也采用泰勒展开式来得到复杂的目标函数在某点附近的近似表达式。,2.2 目标函数的
2、无约束极值条件,一、 多元函数的泰勒展开式,对于一元目标函数(x)，在x(k)点附近若存在n+1阶偏导数，则可展开成如下的泰勒公式。,2.2 目标函数的无约束极值条件,泰勒展开式的项数取得越多，逼近得越好，而x只要在x(k)附近，即xxx(k)很小，其高阶值更小，故可以用前面很少的几项就可很好地逼近原来的函数。经常用二阶以前的项来逼近。,2.2 目标函数的无约束极值条件,对于多元函数也同样可以展开成泰勒公式。设()在(k)点有连续的n+1阶偏导数，则()在(k)点附近的泰勒展开式取到二次项时为：,第三章 最优化设计的基本理论 2.2 目标函数的无约束极值条件,1,可以把后面两项改写成向量矩阵的
3、形式。,2.2 目标函数的无约束极值条件,式子中的二阶偏导数n乘n阶对称矩阵，又称为()的海赛矩阵。,在实际问题的目标函数中，常常会遇到这样的函数。每一项中出现自变量的次数为二次。,2.2 目标函数的无约束极值条件,二、二次型函数,F(X),这种形式的函数称为二次型函数，式中a i j (i, j =1,2,n) 为常系数。,最优化设计中，当研究()在(k)点是否达到极值时，尚需判断函数 是否保持恒正，恒负，而这个函数也是一个二次型函数。,2.2 目标函数的无约束极值条件,根据矩阵乘法的规律，二次型函数F()可以写成矩阵的形式：,2.2 目标函数的无约束极值条件,用矩阵乘法运算，结果与前边完全
4、一样。,2.2 目标函数的无约束极值条件,F(X),A称为二次型的矩阵，如果 a i j = a j i , A 便是一个对称矩阵。,对于所有的非零向量0,若必有T0 ，则称二次型函数()=T是正定的，同时称二次型矩阵也称为正定的。记为0。,2.2 目标函数的无约束极值条件,二次型函数及二次型矩阵可作如下分类：,对于一切，若T0成立，且至少存在一个非零向量，使T ，则称()是半正定的，同时称为半正定的，记0。,对于一切0，若必有T，则称()T是负定的，同时也称为负定的，记0。,对于一切，若必有T ，且至少存在一个非零向量0，使得T，则称()T为半负定的，同时也称为半负定的，记 0。,2.2 目
5、标函数的无约束极值条件,对于一切,必有T，则称()T为不定的，同时也称为不定的，记0。,1， 极大点，极小点和无极值的条件 对于一元函数,2.2 目标函数的无约束极值条件,三、无约束的极值条件,要判别某一点x*是否为极值点是很容易的。,对于多元的目标函数而言，也可得出同样的结论。()在*要取得极值点，必须满足：,2.2 目标函数的无约束极值条件,写成向量的形式：（* ）,*点为极值点的必要条件是此点的梯度(*)0。但这不是充分条件。和一元函数一样，(*)0只能说明*是多维函数()的驻点。还无法确定是否为极值点，即使是极值点也还不能确定极大或极小，还必须进一步确定。,2.2 目标函数的无约束极值
6、条件,如果多元函数()在驻点*附近用泰勒公式的二次式近似表示，则得：,由于*是驻点，所以(*)0,2.2 目标函数的无约束极值条件,在*点附近的邻域内，若对于一切的,有F()-F(*)0，即对于一切的，有-*(*)-*0， (*)0，那么，F(*)取得极小值，*为极小点。,若对于一切，都有F()- F(*)0，即：-*(*)-*0，(*)0， F(*)就为极大值，*就为极大点。,在*点附近的领域内，对于一切 X,都有F()-F(*)0,(*)0，*为鞍点。,2，海赛矩阵判定方法 在满足 (*)0的条件下， (*)为正定矩阵时，*为极小点。 (*)为负定矩阵时，*为极大点。 (*)为不定矩阵时，
7、*为鞍点。,2.2 目标函数的无约束极值条件,而线性代数中判定正定，负定的方法很简单。 设：,矩阵A正定的条件是n乘n阶矩阵的各阶主子式均大于零。即,2.2 目标函数的无约束极值条件,矩阵A为负定的条件是矩阵的各阶主子式相间地一负一正、先负后正。,试求()= x1 4 -2 x12x2 + x22+ x12-2 x1 +5 的极值点。 解：极值点必须满足 ()=0,2.2 目标函数的无约束极值条件,3，计算举例,求解两方程得：,2.2 目标函数的无约束极值条件,2.2 目标函数的无约束极值条件,又例如：,2.2 目标函数的无约束极值条件,解：求一阶偏导数并令其等于零。,联立求解得：,2.2 目
8、标函数的无约束极值条件,求海赛矩阵中的各项：,前两个点的海赛矩阵为正定，故是两个极小点，而第三个点的海赛矩阵为不定。X3*是鞍点。 前两个点带入F(X)算得的较小值是全域最优点。,2.2 目标函数的无约束极值条件,2.2 目标函数的无约束极值条件,四、函数的凸性,2.2 目标函数的无约束极值条件,定义： 在某一区间内极小点和极大点都是唯一的函数称为具有凸性的函数，也称为单峰函数。,判别： F(X)在区域D上为凸函数的充分必要条件为：F(X)的海赛矩阵H(X)处处都是半正定矩阵或正定矩阵。,例：F(X) =60-10x1-4x2+x12+x22-x1x2， 试判别在区间 D=X|- x i |i
9、 =1,2 上为一凸函数。,2.2 目标函数的无约束极值条件,解：,()是正定的， F(X)是凸函数。,凸集的定义D为Rn中设计点的一个集合， D R n ，若其中任意两点(1)与(2)的连线都属于集合D ，则称这种集合是R n中的一个凸集。,2.2 目标函数的无约束极值条件,n维空间中，(1)和(2)连线的向量表达式为： =(1) +（1-）(2) 式中（0 1） 对应与的一切值，均有D，则D为凸集。的取值不同对应着连线上不同的点。,对应于二维的情况，其几何意义为：,2.2 目标函数的无约束极值条件,2.2 目标函数的无约束极值条件,2.2 目标函数的无约束极值条件,2.2 目标函数的无约束极值条件,
