1、第三章 非线性规划,第六节 罚函数法(SUMT法),外点罚函数法(外点法) 内点罚函数法(内点法) 混合点罚函数法(混合点法),第三章 非线性规划,一.外点罚函数法(外点法),外点法迭代原理 外点法迭代步骤 外点法举例 外点法的优缺点,一.外点法迭代原理,一.外点法迭代原理,构造罚函数:,基本思想:,通过建立罚函数,将约束极值问题转化成一系列无约束极值问题去求解.,惩罚项,罚因子,罚函数的特点:,f (X) + 很大的正数,(当M取值很大时),惩罚项,可行域,研究 X*(M) 与(NP)的最优解 X* 之间的关系,一.外点法迭代原理,构造罚函数:,基本思想:,通过建立罚函数,将约束极值问题转化
2、成一系列无约束极值问题去求解,惩罚项,罚因子,罚函数的特点:,f (X) + 很大的正数,设其最优解为 X*(M),,求解,设 最优解为,一.外点法迭代原理,证明:,研究 X*(M) 与(NP)的最优解 X* 之间的关系,10 若 (可行域),则 X *(M) 是 (NP) 最优解。,X*(M) 是(NP)的最优解。,是 的最优解, 有:,设 最优解为,一.外点法迭代原理,研究 X*(M) 与(NP)的最优解 X* 之间的关系,10 若 (可行域),则 X *(M) 是 (NP) 最优解。,20 若 当M很大时, X *(M)也会相当靠近,(NP) 可行域D的边界, 是(NP)的最优解X *的
3、近似解,(通常约束极值问题的最优解X *在可行域的边界上),一.外点法迭代原理,证明:,至少存在 i0 使,是 的最优解,,又,是局部极小值,当M很大时,,会相当小。,M越大, 越小,X*(M) 越靠近D的边界,即越靠近X*。 增大罚因子M的作用是将X*(M)拉向D的边界(即X*)。,一.外点法迭代原理,证明:,至少存在 i0 使,当M很大时,有,设 最优解为,一.外点法迭代原理,研究 X*(M) 与(NP)的最优解 X* 之间的关系,10 若 (可行域),则 X *(M) 是 (NP) 最优解。,20 若 当M很大时, X *(M)也会相当靠近,(NP) 可行域D的边界, 是(NP)的最优解
4、X *的近似解,(通常约束极值问题的最优解X *在可行域的边界上),问题:,如何取M,使得X*(M)是所需要的近似解?,一.外点法迭代原理,收敛结论:,通过建立罚函数,将约束极值问题转化成一系列无约束极值问题去求解.,通过迭代逐渐增大罚因子M:,任意给定初始点X(0),初始罚因子M1(=1)0,则是(NP)的最优解. 否则M2=10M1,则是(NP)的最优解. 否则M3=10M2,则是(NP)的最优解. 否则Mk+1=10Mk,(NP)的最优解,若,若,若,求解,求解,求解,第三章 非线性规划,一.外点罚函数法(外点法),外点法迭代原理 外点法迭代步骤 外点法举例 外点法的优缺点,二.外点法迭
5、代步骤,20 求 的最优解,(用数值迭代的方法求解),10 给定X(0),M1(=1)0,,30 若,则迭代终止,,否则取Mk+1=C Mk , 其中C = 510,令 k:= k+1 转20,第三章 非线性规划,一.外点罚函数法(外点法),外点法迭代原理 外点法迭代步骤 外点法举例 外点法的优缺点,三.外点法举例,例3-18,解:,外点法,,三.外点法举例,例3-18,解:,(用解析法),解得:,求解,三.外点法举例,例3-18,解:,一.外点法迭代原理,外点法也适用于一般情况:,罚函数:,因此在迭代算法中需加入,收敛结论:,等式约束的停机准则:,设其最优解为 X (k) (Mk),(NP)
6、的最优解,求解,二.外点法迭代步骤,20 求 的最优解,(用数值迭代的方法求解),10 给定X(0),M1(=1)0,,30 若,则迭代终止,,否则取Mk+1=C Mk , 其中C = 510,令 k:= k+1 转20,第三章 非线性规划,一.外点罚函数法(外点法),外点法迭代原理 外点法迭代步骤 外点法举例 外点法的优缺点,四.外点法的优缺点,优点:,1. 方法简单,计算方便.,2. 初始点选择容易,它可以在整个n维空间中选取.,缺点:,2. 外点法的中间结果不是可行解,不能作为近似最优,解。只有迭代到最后才能得到最优解的近似解。,第三章 非线性规划,一.外点罚函数法(外点法),外点法迭代
7、原理 外点法迭代步骤 外点法举例 外点法的优缺点,第三章 非线性规划,第六节 罚函数法(SUMT法),外点罚函数法(外点法) 内点罚函数法(内点法) 混合点罚函数法(混合点法),第三章 非线性规划,二.内点罚函数法(内点法),内点法迭代原理 内点法迭代步骤 内点法举例 内点法的优缺点,一.内点法迭代原理,构造障碍函数:,基本思想:,障碍项,障碍因子,内点法要求迭代过程始终在可行域内进行.为此,把初始点取在可行域内,并在可行域的边界上设置一道“障碍”,使迭代点靠近可行域的边界时,障碍函数值迅速增大,从而使迭代点始终留在可行域的内部.,障碍项,一.内点法迭代原理,障碍函数:,障碍函数的特点:,f
8、(X) + 有限的数值,,X 接近D的边界,的内部,的内部,设其最优解为 的内部,一.内点法迭代原理,障碍函数:,障碍函数的特点:,收敛结论:,通常(NP) 的最优解 X * 在D的边界上,为使,当 且很快时,则,求解,f (X) + 有限的数值,,当X接近D的边界,第三章 非线性规划,二.内点罚函数法(内点法),内点法迭代原理 内点法迭代步骤 内点法举例 内点法的优缺点,二.内点法迭代步骤,10 取r10(=1),,20 取,30 求 的最优解,(用数值迭代的方法),40 检验 是否满足收敛准则,,若满足,则迭代终止,,否则取rk+1 = Crk ,其中C = 1/5或1/10。令k:=k+
9、1转30,当 且很快时,则,当 且很快时,,二.内点法迭代步骤,收敛准则:,二.内点法迭代步骤,收敛准则:,当k充分大时,X(k)在X*的 邻域内。,二.内点法迭代步骤,10 取r10(=1),,20 取,30 求 的最优解,(用数值迭代的方法),40 检验 是否满足收敛准则:,若满足,则迭代终止,,否则取rk+1 = Crk ,其中C = 1/5或1/10。令k:=k+1转30,第三章 非线性规划,二.内点罚函数法(内点法),内点法迭代原理 内点法迭代步骤 内点法举例 内点法的优缺点,三.内点法举例,例3-18,解:,(解析法),求解,解得:,三.内点法举例,例3-18,解:,第三章 非线性
10、规划,二.内点罚函数法(内点法),内点法迭代原理 内点法迭代步骤 内点法举例 内点法的优缺点,四.内点法的优缺点,优点:,由于迭代点总是在可行域内进行,每一个中间结果都是一个可行解,因此,中间停机的结果可作为近似解.,缺点:,1. 选取初始可行点困难;,2. 只能求解不等式约束问题。,第三章 非线性规划,二.内点罚函数法(内点法),内点法迭代原理 内点法迭代步骤 内点法举例 内点法的优缺点,第三章 非线性规划,第六节 罚函数法(SUMT法),外点罚函数法(外点法) 内点罚函数法(内点法) 混合点罚函数法(混合点法),三.混合点法,基本思想:,内点法只能求解不等式约束问题,而外点法可以求解等式约束问题.混合点法是用内点法来处理不等式约束,用外点法来处理等式约束的一种罚函数法.,构造罚函数:,收敛结论:,求解 的最优解,在迭代中,令,第三章 非线性规划,第六节 罚函数法(SUMT法),外点罚函数法(外点法) 内点罚函数法(内点法) 混合点罚函数法(混合点法),作业:P246 22(2) 23(2),作业:P203 3(2) 4(2),