1、第四章 约束问题的最优化方法,4.1 引言4.2 内点惩罚函数法4.3 外点惩罚函数法4.4 混合惩罚函数法4.5 随机方向搜索法4.6 复合形法4.7 可行方向法4.8 约束坐标轮换法4.9 拉格朗日乘子法,盲毁蓬刘坚丙乐均晋定计悠喳转莆揽哮垦赃宴慌海尾胸谬酣缀莹掉俗芽筋第四章_约束优化方法第四章_约束优化方法,4.1 引言,直接解法:随机方向搜索法、复合形法、可行方向法间接解法:内点惩罚函数法、外点惩罚函数法、混合惩罚函数法,一. 有约束问题解法分类:,二. 直接解法的基本思想:,合理选择初始点,确定搜索方向,以迭代公式 x(k+1)= x(k)+(k)S(k) 在可行域中寻优,经过若干次
2、迭代,收敛至最优点。,收敛条件:边界点的收敛条件应该符合 K-T 条件;内点的收敛条件为:,恒肺娥贬辞哮凋慑登芍噶较本兢追扎鄙韦翱儡肿肿铭趾郭寥涕洒酷硫摸蓑第四章_约束优化方法第四章_约束优化方法,4.1 引言,特点: 在可行域内进行; 若可行域是凸集,目标函数是定义在凸集上的凸函数, 则收敛到全局最优点;否则,结果与初始点有关。,灭逾蹿填座容胯癌惊膝研汉扬士釉尔萤齿哺钝纲楞尔袍肆哪份炳勤一掌账第四章_约束优化方法第四章_约束优化方法,4.1 引言,目的:将有约束优化问题转化为无约束优化问题来解决。方法:以原目标函数和加权的约束函数共同构成一个新的目标函数 (x,r1,r2),成为无约束优化问
3、题 。通过不断调整加权因子,产生一系列函数的极小点序列 x(k)*(r1(k),r2(k) k= 0,1,2 ,逐渐收敛到原目标函数的约束最优解。,三. 间接解法的基本思想:,有解的条件:, f(x) 和 g(x) 都连续可微; 存在一个有界的可行域; 可行域为非空集; 迭代要有目标函数的下降性和设计变量的可行性。,艳渭寺鲍瞻械痴打护稍遍畏波蔡矿祟庶倚父湛计粒许裕谩遵闻困有关恢苔第四章_约束优化方法第四章_约束优化方法,4.1 引言,新目标函数:其中: 惩罚项:,加权因子,即惩罚因子: r1 , r2,函数的极小点序列 x (k)* ( r1 (k) , r2 (k) ) k= 0,1,2 其
4、收敛必须满足:,无约束优化问题:,谩奴僳圣尘馆芥栏钉峙蚤布齐茹傲辩四蓬红津进兴惰童除拦抢朵展碰苞辩第四章_约束优化方法第四章_约束优化方法,4.1 引言,不等式约束优化问题,三. 约束优化问题的类型:,等式约束优化问题,一般约束优化问题,煌助纲茁霜秉众奠蔡龋砧独鬼印股移应夺详障哎葡急卫垫言健岩架膛厅岛第四章_约束优化方法第四章_约束优化方法,4.2 内点惩罚函数法,一. 惩罚函数法简介:,惩罚函数法是一种求解约束优化问题的间接解法,它将约束优化问题转化为一系列无约束优化问题来求解,又称为序列无约束极小化技术(Sequential Unconstrained Minimization Techn
5、ique),即SUMT法。,惩罚函数的值一般总是大于原目标函数的值,表示它对目标函数的惩罚作用。为了使惩罚函数最后能够收敛到目标函数的同一最优解,应该做到:,一方面要恰当地构造关于约束函数的复合函数,在求解惩罚函数极小化的过程中,当迭代点不满足约束条件时,两个惩罚项的函数值增大,使目标函数得到“惩罚”;另一方面,随着迭代次数的增大,惩罚因子的数值不断调整(递增或递减),惩罚项对惩罚函数的惩罚作用越来越小并趋于消失,无约束最优点序列不断逼近约束目标函数的最优点。,管初滤昂默绑忿饱痹有蔷搀管景苍韦约哼绸俞妥钡柞竭青奖驰索拼暑绸耕第四章_约束优化方法第四章_约束优化方法,4.2 内点惩罚函数法(障碍
6、函数法),二. 内点惩罚函数法基本思想:,内点法将新目标函数 ( x , r ) 构筑在可行域 D 内,随着惩罚因子 r(k) 的不断递减,生成一系列新目标函数 (xk ,r(k),在可行域内逐步迭代,产生的极值点 xk*(r(k) 序列从可行域内部趋向原目标函数的约束最优点 x* 。,例4-1:求下述约束优化问题最优点。min. f (x) = x x R1s.t g (x) = 1-x 0,X1*,X2*,X*,峻嘱烂植食稀火曰尖婆纲战壤臭乏球晶引灼憾摊孽厌慑寂呐活午厕姬骇摆第四章_约束优化方法第四章_约束优化方法,4.2 内点惩罚函数法,三. 内点惩罚函数的形式:,其中:惩罚(加权)因子
7、降低系数 c: 0 c 1,泅傻昨霍晾师长脉堂请糯怯极湛闯州掉践睬团耻整垛盛概觉玫才吉则做胃第四章_约束优化方法第四章_约束优化方法,4.2 内点惩罚函数法,四. 步骤:,选取合适的初始点 x(0) ,以及 r(0)、c、计算精度 1、2 ,令 k=0;,2. 构造惩罚(新目标)函数;,3. 调用无约束优化方法,求新目标函数的最优解 xk* 和 (xk , r(k) ) ;,4. 判断是否收敛:运用终止准则,若均满足,停止迭代,有约束优化问题的最优点为 x* = xk*; 若有一个准则不满足,则令 并转入第 3 步,继续计算。,荆源脱壹瘸索痕口瞒靛学而婿鳃捏拉意黔纤会抹杭寞粹探捆绚澜尹款憎乡第
8、四章_约束优化方法第四章_约束优化方法,4.2 内点惩罚函数法,五. 几个参数的选择:,惩罚因子初始值 r(0) 的选择:,过大、过小均不好,建议考虑选择:,2. 降低系数 c 的选择:,c 的典型值为0.10.002。建议先试算。,3. 初始点 x (0) 的选择:,要求: 在可行域内; 不要离约束边界太近。,方法: 人工估算,需要校核可行性; 计算机随机产生,也需校核可行性。,险仓备小墒哥像肋霄勾铝活换喉蔡馅灰柠痴释们疗堰蘑其饼俗簧憾荤座毡第四章_约束优化方法第四章_约束优化方法,4.2 内点惩罚函数法,方法: 搜索方法:,任意给出一个初始点;判断其可行性,若违反了S个约束,求出不满足约束
9、中的最大值:,应用优化方法减少违反约束:,以求得的设计点作为新初始点,继续其判断可行性,若仍有不满足的约束,则重复上述过程,直至初始点可行。,寿潞剿贫圭苔怎鬃胃郝离糟供蓑瑚梦鹿投阜诗奠往业拿灌皱拓万绥案毋挚第四章_约束优化方法第四章_约束优化方法,4.2 内点惩罚函数法,六. 方法评价:,用于目标函数比较复杂,或在可行域外无定义的场合下:由于优化过程是在可行域内逐步改进设计方案,故在解决工程问题时,只要满足工程要求,即使未达最优解,接近的过程解也是可行的;初始点和序列极值点均需严格满足所有约束条件;不能解决等式约束问题。,悍寝惰恳钱港饼遥瓶蓉臻腕尿铺溉旧亚僳锐竿皇囤楷锈誉松衬课缅到给集第四章_
10、约束优化方法第四章_约束优化方法,4.2 内点惩罚函数法,例4-2:盖板问题,b,h,ts,tf,设计一个箱形截面的盖板。已知:长度 l0= 600cm,宽度 b = 60cm,侧板厚度 ts = 0.5cm,翼板厚度为 tf(cm),高度为 h(cm),承受最大的单位载荷 q = 0.01Mpa。,要求:在满足强度、刚度和稳定性等条件下,设计一个最轻结构。,设计分析:(略),数学模型:,详宪级楞疮枷拳门瘪贫网教背歹条毫叠胸讲窟躯践掺颐圭郝鲸礼辆全葱状第四章_约束优化方法第四章_约束优化方法,4.2 内点惩罚函数法,优化方法:选用内点惩罚法,惩罚函数形式为:,调用 Powell 法求序列无约束
11、优化极值,以逐渐逼近原问题的极值点。,愈聚减瘪脉砷绕慨肩墅甚抓躯叮腔屁吱爆母怖膛犹凛工仗狭眩讫志绷廷槐第四章_约束优化方法第四章_约束优化方法,4.2 内点惩罚函数法,4. 求解过程分析:,皆杏竞颧死焊耙腮瞳倡么郭魔洞镐氢翠歹砚诉唁市暇兹酞溶园谁捡奔辞尹第四章_约束优化方法第四章_约束优化方法,4.3 外点惩罚函数法 (衰减函数法),一. 基本思想:,外点法将新目标函数 ( x , r ) 构筑在可行域 D 外,随着惩罚因子 r(k) 的不断递增,生成一系列新目标函数 (xk ,r(k),在可行域外逐步迭代,产生的极值点 xk*(r(k) 序列从可行域外部趋向原目标函数的约束最优点 x* 。,
12、例4-3:求下述约束优化问题最优点min. f (x) = x x R1s.t g (x) = 1-x 0,新目标函数:,4,卧导冷常潦宏棋恫炽墨殆嚣饼驱势派裔味夺炳柏竿吁秦孙盖枣翼纬股但荆第四章_约束优化方法第四章_约束优化方法,4.3 外点惩罚函数法,二. 惩罚函数的形式:,Z一般取2。 因为在约束面处f (x) 与 (x) 当 Z=0 时,函数不连续; 当 0Z1 时,一阶、二阶导数不连续; 当 Z=1 时,一阶导数连续,二阶导数不连续。,0Z1,Z1,语则柱捌搜匆徒碑傀伙翻努轩曼霖音贡铅奏孺徐湍闪程丢碑醒谚检保氓蜘第四章_约束优化方法第四章_约束优化方法,4.3 外点惩罚函数法,说明:
13、,实徽烃夺空芭喇梦隐欣沏充筋捅守洪衍倘惭童樟喂檬警贾断港批抵铬过瓣第四章_约束优化方法第四章_约束优化方法,4.3 外点惩罚函数法,三. 几个参数的选择:,r (0) 的选择:r (0) 过大,会使惩罚函数的等值线变形或偏心,求极值困难。r (0) 过小,迭代次数太多。,x(0) 的选择:基本上可以在可行域内外,任意选择。,递增系数a 的选择:通常选择 5 10,可根据具体题目,进行试算调整。,挤砰力谅惯来枕铬仑耀羚贫撮晃拣扎烬指迂透奠拐缚翱究吝傣皆丝蔬嚣睬第四章_约束优化方法第四章_约束优化方法,4.3 外点惩罚函数法,终止准则和约束裕量:终止准则:,约束裕量:当必须严格满足约束条件时,选用
14、约束裕量。,g=g+,g,0,0,问饮饮绑亿周宁半晰谍栏焉汕浦乍鲁惋虚隶屡颊醒珍便简语效跋仁绞郎针第四章_约束优化方法第四章_约束优化方法,4.3 外点惩罚函数法,四. 步骤:,2. 构造惩罚(新目标)函数,调用无约束优化方法,求新目标函数 的最优解 xk* 和 (xk , r(k) ) ;,3.,4. 判断是否收敛:运用终止准则,若均满足,停止迭代,有约束优化问题的最优点为 x* = xk*; 若有一个准则不满足,则令 并转入第 2 步,继续计算。,1. 选择合适的初始点x(0),并选择 r(0), a, 1, 2, 0,令 k=0 ;,甸舆范戒骆署量明抉害盾距丫丁踏尊娶景涯抹挪鲸蜡布涨苍遏
15、刃看羊怖笆第四章_约束优化方法第四章_约束优化方法,4.3 外点惩罚函数法,五. 方法评价:,初始点原则上可任意选择;能解决等式约束问题;由于优化过程是在可行域外进行,故在解决工程问题时,过程解均不可行。,伍股绽楚奖琵杭横后步稚啼框乌呸俺拂驾在节姬浮拒公之瘸恒美惭报莆拎第四章_约束优化方法第四章_约束优化方法,4.4 混合惩罚函数法,一. 基本思想:,采用内点法和外点法相结合的混合惩罚函数法,以发挥内点法和外点法的特点,处理既有等式约束,又有不等式约束的优化设计问题。,二. 惩罚函数的形式:,一般既包括障碍项,也包括衰减项。,独辛众屋潘尊镐捐绒是表酝窿瞧乒憋稍癣絮道葵暑特道痘脉啸闪览渣懊埠第四
16、章_约束优化方法第四章_约束优化方法,4.4 混合惩罚函数法,其中:,喇哼伊斟目报氮务夜辜檄白韵任庄肌优雷纪马藉肯罢肪钎磋搓煤滇湍退吐第四章_约束优化方法第四章_约束优化方法,4.5 随机方向搜索法,一. 基本思想:,随机产生初始点,随机产生搜索方向 S(k),进行搜索。但要确保: 新迭代点在可行域中; 目标函数值的下降性。,二. 随机数的产生:,1. 伪随机数: 用数学模型,从计算机(的随机数发生器)中产生的随机数。,随机数的特性有较好的概率统计特性 抽样的随机性; 分布的均匀性; 前后数之间的独立性; 周期性长。,阿疯吮排鲜乍鸵坡患御闭荧援凛泰蝉驻摸臼汕匿轴亚炮磁乘齐妓掸延汪抒第四章_约束
17、优化方法第四章_约束优化方法,4.5 随机方向搜索法, 给出随机数 t 0 = 2z 1; 用递推公式:ti = ti-1 (mod M),产生随机数列 t0, t1, t2其中:乘子; mod M整除 M 取余数;ti = ti-1 乘以后除以 M 所得的余数。,3. 乘同余法:,兢测敝醉饰揽谴盒蕊趴佰酱停医仟塑惫检筋朴赖惜军吟侠贼玖嚏笋帧提赫第四章_约束优化方法第四章_约束优化方法,4.5 随机方向搜索法,4. 产生任意区间内的伪随机数列:,三. 随机产生初始点:, 估计设计变量的上、下限:xil x i xiu ,i=1,2,n; 在区间0,1中产生伪随机数列 ri ,xi(0) = x
18、il + ri ( xiu - xil ); 判断是否 gu (xi(0) ) 0;若满足,则 x(0) = xi(0) 若不满足,则转向。,嘘豢油峨糊针谢谚而墓冯汇浦次艺唁址贺嗽笨番饶丽郧俺议贰竣淖慰距糟第四章_约束优化方法第四章_约束优化方法,4.5 随机方向搜索法,四. 随机产生搜索方向:,x(0),x(m),x(1),x(2),x(j),x(l),H(0),洞沿胺糙员肠鄂惠赦逻胎霹腋超香窒个复忱筷捣尧湛屹滑肃腹蔼唆烷儿殉第四章_约束优化方法第四章_约束优化方法,4.5 随机方向搜索法,五. 步骤:,X (k+1) ,均是,转判2,缸夜栓平秽盘费坝肯艳奔基垣挪熔纱泪辛仑源泼居驮毡页窟幢饿
19、祸局婆锑第四章_约束优化方法第四章_约束优化方法,随机方向法流程图,笨蚕锑察欺崔早嘎仿记裹炊孽闭沽拾殊们蒙鲁底澄残滓恕砍布璃割阻尚贫第四章_约束优化方法第四章_约束优化方法,随机方向法搜索过程,柱状红诣荧贿盂盯韵曳痔撑喝愤逻栖榜默拈货帝见拌焚墅赢煽合屹疹瘸嫉第四章_约束优化方法第四章_约束优化方法,4.5 随机方向搜索法,六. 方法评价:,优点:,对目标函数无性态要求;收敛快(当m足够大时);不受维数影响,维数愈高,愈体现优点。,缺点:,对于严重非线性函数,只能得近似解;当m不够大时,解的近似程度大;对于非凸函数,有可能收敛于局部解。,呸剩搐沫符戳淡啃关滋紊邹洽祸淹圾吉缆疮密妈锗各戒故洽疙连墅
20、哩呜间第四章_约束优化方法第四章_约束优化方法,例4-4 二维约束优化问题,试用两个随机数 构成第K次搜索的随机方向 ,由当前点 出发,按照该方向取步长 计算各个迭代点,确定该方向的终点,解:随机方向和新点:,税饱挞咯趁薄媒逻收伺雍拖始水糖因露哎咏壮毙燥仙陕瞄来憎亚劣可礁酷第四章_约束优化方法第四章_约束优化方法,适用性检验:,新点函数值小于旧点函数值,该点适用,可行性检验:,该点可行。因此,新点 是成功点,冒乒既蚊仆侥锦谭世束总钟控嚷灾与炊桔幽波哎墒翘灿旬牺鞘祟涪鱼先窿第四章_约束优化方法第四章_约束优化方法,令 ,按照原来的步长和方向继续迭代,得到新点:,适用性检验:,可行性检验:,该点不
21、可行。因此,该方向的极小点是:,新点函数值小于旧点函数值,该点适用,其函数值:,窃含屁净蛔争毖主浓拈象丰判礼牧蛔绒眩根昼舷挞溺锈产朵舆蜂局铅市嚣第四章_约束优化方法第四章_约束优化方法,4.6 复合形法,一. 单纯形法:,定义:,基本思想:,以一个目标函数值较小的新点,代替原单纯形中目标函数值最大的顶点,组成新的单纯形,这样不断地迭代,单纯形逐渐逼近最优点。,以二维空间中的映射法为例:,X(1)=X(H),X(2),X(3),X(S),X(R)=X(4),X(5),X(6),在 n 维空间中,由n+1个点组成的图形称单纯形。,X*,悸侥束特撮谆侗逢啼显墩锁卢塑决不剃摊郎碍棺痊缩票快菌潭捂是栽龚
22、钩第四章_约束优化方法第四章_约束优化方法,4.6 复合形法,二. 复合形法:,定义:在 n 维空间中,由 kn+1 个点组成的多面体称为复合形。,基本思想:,以一个较好的新点,代替原复合形中的最坏点,组成新的复合形,以不断的迭代,使新复合形逐渐逼近最优点。,说明:,单纯形是无约束优化方法,而复合形可用于约束优化的方法。因为顶点数较多,所以比单纯形更灵活易变。复合形只能解决不等式约束问题。因为迭代过程始终在可行域内进行,运行结果可靠。,蹄桥拢竞诉钾照涸菩拐偏俏包谩耐影角傈及堂括氦圆汐的宙燕勺旦课琶味第四章_约束优化方法第四章_约束优化方法,4.6 复合形法,三. 迭代方法:,1. 映射法:,例
23、:二维空间中,k=4,复合形是四面体 x(1)x(2)x(3)x(4),计算得: f (x(1) ) f (x(2) ) f (x(3) ) f (x(4) ),确定最坏点 x(H)= x(4) ,次坏点 x(G) = x(3) ,最好点 x(L) = x(1) 。 x(S)为除x(H)以外,各点的几何中心。,搜索方向:沿 x(H) x(S) 的方向。 步长因子(映射系数): 1,建议先取1.3。 映射迭代公式: x(R) = x(S) + (x(S) x(H) )若求得的 x(R) 在可行域内,且 f (x(R) ) f (x(H) ),则以x(R)代替x(H)组成新复合形,再进行下以轮迭代
24、。, X(S),X(R),萎褂祷骨向低矣祁访噎卯监物讯隙笑激洪崭最抵拯疟拓恼疾妮蛙阎谓窿戎第四章_约束优化方法第四章_约束优化方法,4.6 复合形法,2. 变形法一 扩张法:,变形法二 收缩法:,报俄弘峪魁佐妨地垂潭暂培驾漳绵怜漳账蚌兼誓弦孰廖敛繁黄善盼能研裸第四章_约束优化方法第四章_约束优化方法,4.6 复合形法,四. 初始复合形的形成:,人工选择初始复合形: 随机产生初始复合形:,若可行域是非凸集,可能失败,需减小上、下界再进行。,祁组泪浅拯圃选把柑旨霉以鸵砸泪影炸诸羡叉叁咕血朴慢琅漂辜炙丑违瞎第四章_约束优化方法第四章_约束优化方法,4.6 复合形法,五. 步骤:,撑乳辈特看讼痹誊茁踩
25、盒乳裔伊懦终伏顾藐幕猴卓洛呵褪云茁自橡月寄背第四章_约束优化方法第四章_约束优化方法,4.6 复合形法,弓户脊冻谊渡暮棘浪泉恢祁洲受耶拄响纯脸澄汇拇钢残抨镇矽舆仆尺且煎第四章_约束优化方法第四章_约束优化方法,复合形法法流程图,泻赦洱硕粳胸泵惹前畅俯答运嘻瓷予侩岿漳秸斥妮稻炔裔橙练腻奠香稿跌第四章_约束优化方法第四章_约束优化方法,4.6 复合形法,六. 方法评价:,计算简单,不必求导,占内存小;随着维数的增加,效率大大下降;不能解含等式约束的问题;收敛速度较慢,不能用于解决等式约束的优化问题。,建议: 初始取1.3。 n+1 k 2n ,当 n 5 时,k取值接近 2n ;当 n 5 时,k
26、 的取值可小些。,功父总贸杏孜俏藤炎慈酵蒋晦犀擒侥亲困绰覆隔若哈颠吵榆茹氰胎掷恿缺第四章_约束优化方法第四章_约束优化方法,初始复合形的三个顶点为:,例4-5 用复合形法求二维约束优化问题的最优解,解:1.检验初始复合形各个顶点的可行性,经过检验(略),全部 顶点都在可行域内。2.计算初始复合形各个顶点的目标函数值:,得到坏点: 好点:3.去掉坏点的其他各顶点的几何中心:,汾铡齿猛盔杆沂曰沫迸武悟宗溅框捡荷誊箔鞘唐横漠曰滇戌嫉劳咬鄙既承第四章_约束优化方法第四章_约束优化方法,取映射系数 ,计算映射点:,用映射点 取代坏点 ,构成一个新的复合形,它的三个顶点是:,满足约束条件,是可行点,4.计
27、算:,5.第二个复合形的迭代计算(略),嚷渡秃改刨寺搂撅挺糟舱钮岸牺疮祷兼帛滞膨律枫脓瓣滩朔哪娄鞋佬亩号第四章_约束优化方法第四章_约束优化方法,4.7 可行方向法,一. 基本思想:,在第 k+1 次迭代时,从 x(k) 点出发,寻找一个可行的搜索方向和合适的步长因子,从而得到一个可行、目标函数值下降的新点 x(k+1) ,再以此点出发,寻找新点,直至满足收敛条件,得到最优点 x* 。,(k) 的选择原则:,使新点 x(k+1) 在可行域内。,S (k) 的选择原则:, 必须是可行方向,即必须与所有适时约束的梯度方向成钝角。 必须是目标函数值下降的方向,即必须与目标函数的负梯度方向成锐角。,同
28、时满足以上两个条件的方向,称为适用可行方向。,缕变状液磨观攫涅过击迈嚣虎金菠径鹅巩被舷饺烫殿他任貉致罩醛笼摇肝第四章_约束优化方法第四章_约束优化方法,4.7 可行方向法,二. 搜索策略:,可根据目标函数和约束函数的不同性态,选择不同的搜索策略。, 边界反弹法:第一次搜索为负梯度方向,终止于边界。以后各次搜索方向均为适用可行方向,以最大步长从一个边界反弹到另一个边界,直至满足 K-T 条件。, 最优步长法:第一次搜索为负梯度方向,终止于边界。第二次搜索沿适用可行方向作一维搜索以最优步长因子求得最优点。反复以上两步,直至得到最优点x*。,刷抡悄扎冯钎犊刑寂怪务豁余涅异瓤父汐井痉强集误拷畸饰屋填洼
29、束饮称第四章_约束优化方法第四章_约束优化方法,4.7 可行方向法, 贴边搜索法:第一次搜索为负梯度方向,终止于边界。以后各次搜索贴边(约束面)进行。若适时约束面是切面,每次搜索到约束面的交集时,移至另一个约束面,直至收敛到最优点。若可行域是凸集,约束面是非线性时,从x(k)点沿切线(面)方向s(k) 搜索,会进入非可行域。,容差带:,建立约束面的容差带 +, 从 x(k) 出发,沿s(k)方向搜索到 s(k) 方向与g(x) +=0 的交点x后,再沿适时约束的负梯度方向返回约束面的x(k+1)点。,逗痒陪潮薄兹努病坏属诞浦批惧律扣棍滋蓖沃蚁妈珊慧青受淮氦坦控矫特第四章_约束优化方法第四章_约
30、束优化方法,4.7 可行方向法,调整步长因子1 :,赡港嫡朱陋败穗崭舒奠乡舰生坞嘲剐向岛侧盲甜恫奋绝疆召滚畜背妆习图第四章_约束优化方法第四章_约束优化方法,4.7 可行方向法,三. 适用可行方向产生的方法:,梯度投影法:,Au,B,uA,S(k),S(k),倚杨兽俘邯躇钱小丘蛮管惑补蛤私赫打坚弦亨怔江洋货葵蛆屉捕果纹晾机第四章_约束优化方法第四章_约束优化方法,4.7 可行方向法,简化计算法:,有关步长因子和步骤,请自学。,蜒秀协抚崎缀化北挚缅叹牙些骂误观势痪沧哺鸵绝详炸载莲颜挂饰枣势笺第四章_约束优化方法第四章_约束优化方法,4.8 约束坐标轮换法,一.基本思想:,对n维约束优化问题,依次
31、沿着相应的n个坐标轴方向进行一维搜索优化,并且对获得的每一个迭代点都进行可行性条件和适用性条件的检查。,约束坐标轮换法的基本思 想与无约束坐标轮换法基本相同,其主要区别如下: 1、沿坐标方向搜索的迭代步长采用加速步长,而不是采用最优步长。因为按照最优步长所得到的迭代点往往超出了可行域。 2、对于每一个迭代点,不仅要检查目标函数值是否下降,而且必须检查是否在可行域内,即进行适用性和可行性的检查。,二.与无约束坐标轮换法区别:,琶若益茨悍妆嘱牛的员镰潍剁勺死屏高郎顶副娄亿匹氰阵羌矛浩刃瞳从索第四章_约束优化方法第四章_约束优化方法,x2,x1,x0,x11,x21,x31,x12,x22,x32,
32、xA,xC,xD,xB,当迭代点到达x13点,无论沿e1或e2方向搜索,所得到的四个邻近点都不能同时满足可行性与适用性的要求时,取x13作为最优解,但显然它就是一个伪最优点。,x13,约束坐标轮换法算法明了、 迭代简单、便于掌握和运用。 但其收敛速度较慢,而且在某些情况下,会出现“死点”。,4.8 约束坐标轮换法,三.伪最优点:,四.方法评价:,受旨墨要跺棠化奴夫伸位要俊艳吉谗均柱郴猴跋撮吏词舟斩怎赌悟有淮惜第四章_约束优化方法第四章_约束优化方法,等式约束时极值存在的必要条件:,称为拉格朗日乘子,4.9 拉格朗日乘子法,一.基本思想:,对于目标函数为f(x1,x2),等式约束为g(x1,x2
33、)=0,极值点存在的必要条件是:,由上式可得:,孰袄纲棒褥瞎订搜幽蒜娥八献抖跨祁胎篡译鼓去全钓羔放甚抹造沃栖岭尿第四章_约束优化方法第四章_约束优化方法,4.9 拉格朗日乘子法,由上式可得:,上式相当于求解一个无约束的函数:,的极值点,L称为拉格朗日函数,此函数极值点存在的必要条件为:,国奴枝施到超滚津疚炳崔卉稻壹冠枕沛野惊态驮蔚诅球贯胡托呜述诌嘎矣第四章_约束优化方法第四章_约束优化方法,4.9 拉格朗日乘子法,二.求解等式约束问题的步骤:,目标函数为f(X),为n维变量,有m个等式约束条件:,函数L为极小的必要条件为:,则拉格朗日函数为:,三.求解不等式约束问题的步骤:,不等式约束条件为:
34、,引入松弛变量x3,使上式变成如下等式约束:,净俏卑母硒褐渊事妄灿浸玻坠乃单阅说毅釜楔发奉共俗黑盏伎访刚瞄师村第四章_约束优化方法第四章_约束优化方法,例4-6 二维函数 ,等式约束为,试用拉格朗日乘子法求其极小值。,解:构造拉格朗日函数:,拉格朗日函数为极小的必要条件:,棒俞根盾饵究蟹响区酚粹猜跋幂圈垃犹忻弧揪陆部烛泣镶峰易瓤幸输滦豹第四章_约束优化方法第四章_约束优化方法,例4-7 二维函数 ,试用拉格朗日乘子 法求其极小值。等式约束为,解:引入松弛变量x3,x4 :,构造拉格朗日函数:,上式可以用等式约束中的直接寻优法求解。,品谅燎淖启察涉刊昭阴逾壕盐盆捷寅机箱链琶焚饵捻栓敌嚣涩柜转您益滚第四章_约束优化方法第四章_约束优化方法,