1、37第 3 章 对偶理论3.1 线性规划的对偶理论3.1.1 对偶问题的表述对称形式的对偶：（L） (D) cxminwbmaxs.t. s.t. bAcA00其中 为 维行向量， 为 矩阵， 为 维列向量， 表示 维列向量， 表示cnxnw维行向量。称(D)为线性规划 (L)的对偶规划问题。定理 1 (L)与(D)互为对偶规划问题。（对合性）例 设原问题 对偶问题0, 125 s.tmin1x0, 12 s.t5max1w非对称形式的对偶：（LP） (DP) cminbmaxs.t. s.t. bAxcA0例 设原问题 对偶问题0, 5234 s.t3in131x 3 425 s.tax12
2、1w一般线性规划问题：可化为上述二者之一讨论其对偶问题，也可直接写出对偶问题，详细的对应法则见教材（陈宝林）124 页。38直接写出对偶的弊端之一是对偶最优解不易确定，而对称形式和非对称形式对偶的最优解都可由原问题的单纯形乘子确定出来。3.1.2 对偶定理(强对偶定理和弱对偶定理)定理 2 (弱对偶定理)：设 和 分别是xw（L） 和 (D) cxminbmas.t. s.t. bAcA00的可行解，则有下列不等式成立： bwxc证明：由于 和 ，则有 。bxA0wA由于 和 ，则有 。c因此有推论 1 设 和 分别是(L)和(D)的可行解，且有 ，则 和 分别是(L)和(D)x bwxcx的
3、最优解。推论 2 如果(L)的目标函数在可行集上无下界，则对偶规划 (D)无可行解。推论 3 如果(D) 的目标函数在可行集上无上界，则原始规划(L)无可行解。定理 3 (强对偶定理)：如果互为对偶规划的两个问题之一有最优解，则另一个问题也有最优解，并且二者的目标值相等。证明：设原问题（L）存在最优解，引进松弛变量，写成等价形式：（1）0 s.tminvxbAc由于（1）存在最优解，因此可以用单纯形方法求出它的一个最优基本可行解，不妨设该最优解是 ，相应的最优基是 B。此时所有判别数均非正，即vxy（2）jcpwj,0为单纯形乘子。1Bcw39考虑所有原来变量（不包括松弛变量）在基 B 下的判
4、别数，把它们所满足的条件（2）用矩阵形式写出：或 （3）0cAwcAw把所有松弛变量在基 B 下的判别数所满足的条件（ 2）用矩阵形式写出：或 （4）)(I0由（3）和（4）可知， 是对偶问题（D ）的可行解。由于非基变量的取值为 0，以及目标函数中松弛变量的系数为 0，因此有xcybBcwB1根据定理 2 的推论 1， 是对偶问题（D ）的最优解，且原问题和对偶问题目标函数最优值相等。类似地可以证明，如果对偶问题存在最优解，则原问题也存在最优解，并且二者的目标值相等。注：也可用凸集分离定理证明该结论。但运用单纯形法证明该定理属于构造性证明，也适用于求解对偶问题。3.1.3 互补松弛定理利用对
5、偶定理可以证明原问题和对偶问题的最优解满足重要的互补松弛性质。对于互为对偶的一对线性规划问题，已知一个问题的最优解时，可以利用互补松弛定理求出另一个问题的最优解。定理 4 (对称形式的互补松弛定理)：设 和 分别是 (L)和(D)的可行解，则二者分别xw为最优解的充分必要条件是： 0)( ,0)( xcAbxAw用 表示矩阵 的第 行，用 表示矩阵 的第 列。 iAijpj推论 1 设 和 分别是(L)和(D)的可行解，则二者分别为最优解的充分必要条件是：x(i) 对 ，若 ，就有 ；若 ，就有 。nj,0j jjcjjcpw0jx(ii) 对 ，若 ，就有 ；若 ，就有 。mi iwiibx
6、Aiixi推论 2 设 是(L)的最优解，则 是(D)的最优解的充要条件是：x(i) 对 ，若 ，就有 ；nj,10j jjcp40(ii) 对 ，若 ，就有 。mi,1iibxA0iw推论 3 设 是(D) 的最优解，则 是(L)的最优解的充要条件是：w(i) 对 ，若 ，就有 ;nj, jjcpjx(ii) 对 ，若 ，就有 。i10i iibA例： 设原问题 对偶问题0, 231 s.tmin211x0, 132 s.tmax 211w设用图解法求得对偶问题的最优解为 )7,(),(21w则可用互补松弛定理求原问题的最优解。由于在最优解 处，对偶问题的第 3 个约束成立严格不等式，因此原
7、问题第 3 个变量w。03x又由于 的两个分量均大于 0，因此在原问题中前两个约束在最优解处成立等式，即 23121x把 代入上述方程组，可解得 ， 。03x74x5原问题的最优解为 。Tx)0,(),(3213.2 非线性规划的对偶理论3.2.1 非线性规划的 Lagrange 对偶问题的表述非线性规划的对偶理论不像线性规划的对偶理论简单漂亮。可以通过多种不同的方式来构造非线性规划对偶问题，如基于 Lagrange 函数，凸函数的共轭函数及 K-T 最优性条件等。不同构造方式基于的条件不同，所得结论亦有区别，从而应用场合不同。41此节以 Lagrange 对偶为例，介绍非线性规划的对偶理论。
8、原问题：(5). ,1 ,0)( s.tminDxljhmigfjiD 为 的子集，它的选择影响到计算和修正对偶目标函数的计算量。nR令对偶目标函数（Lagrange 对偶函数）为： Dxhvxgwxfvwljjmii |)()()(in),( 11对偶问题：（6）0 s.t),(axwv例：求下列问题的 Lagrange 对偶问题。21minx,04 s.t.,21将变量的非负限制作为集约束： 0,|212xDx对偶函数： wxxw4|inf|inf 0,)4()( 22121 1由上式可知，当 时，有021)(当 时，由于 ，则有0w0,21x42021wx因此当 时，得到极小值021x4
9、)(综上分析，得到对偶函数： 0 ,4,21)(ww本例的对偶问题为 0 s.t421)(max问题的最优解和最优值为： 8 ,)(infT对偶问题的最优解和最优值为： 4maxw问题：原问题与对偶问题解之间的关系？线性规划的弱对偶定理是否成立？线性规划的强对偶定理是否成立？原问题： . ,0)( ,)( s.tminDxhxgf其中 1Tmg Tlxh)(,)(1令 lvw,(,),(1对偶问题：0 s.t),(ax其中， DxhvxgwfvwTT|)()(in),(原问题的可行集： RxSn ,0)( ,)(|对偶问题的可行集： |),(wvDlm433.2.2 对偶定理定理 5（弱对偶定
10、理）：原问题（inf）在可行集上的目标值不小于对偶问题（sup）在可行集上的目标值，即 SDvwxvwxf ),( ),()推论 1 ;)(|sup|)(infS推论 2 如果存在 使得 Dvx),(),(vwxf则 和 分别是原问题和对偶问题的最优解。x),(vw推论 3 如果 则有,|)(infSxSDvwv),()推论 4 如果 则原问题不可行。,(|,supw对偶间隙：由推论 1 知 ，若 ，则原问题与对偶问题无对偶间隙；supinfsupinf若 ，则原问题与对偶问题有对偶间隙。supinf下面的强对偶定理表明：对凸规划，在适当的约束规格下，原问题与对偶问题不会出现对偶间隙。定理 6
11、（强对偶定理）：设在（5）中下列条件满足：非空凸， 是凸函数； 是线性nRD )i( mixgfi,1 ),( , ljxhj,1 ),(函数。 .|)(nt0 , ,)( s.t Dxhxx 则有下列结论成立：(i) ;),(|,up|)(inf SvwS(ii) 若 有限，则存在xs.t ,;)(|,s),(iii) 若 有限，且存在f|)(i，则有 。SxfxSx|in s.t, 0xg定理的解释：条件(i)要求原问题(5)为凸规划，条件(ii)要求原问题(5)满足约束规范；结论(i)说明原问题(5)和对偶问题(6)无对偶间隙；44结论(ii)说明原问题的目标函数 在可行集上有下界时，其对偶问题有有限最优解，)(xf即上确界可以取到；结论(iii)说明若原问题有有限最优解时，则原问题和对偶问题在该最优解和对偶问题最优解满足互补松弛条件。习题1 给定下列线性规划问题 0, 7526 s.t 371max432412x（1） 写出上述原问题的对偶问题；（2） 用图解法求对偶问题的最优解；（3） 利用对偶性质求解原问题的最优解和目标函数的最优值。2 考虑下列原问题： 01 s.t)()(min221x（1） 用图解法求解原问题；（2） 写出和求解对偶问题；（3） 用对偶理论说明对偶规划的最优值是否等于原问题的最优值。
