1、1关于凸分析的若干补缺1如同数学分析是以建立在实数域上的连续函数为研究对象的数学理论一样，凸分析是关于具有凸性的集合和函数的数学分析的理论，所以，它的主要对象是凸集和凸函数。另一方面，凸函数在很多情况下是非光滑的，而非光滑优化问题的分析与求解理论，是以凸分析中较深入部分为理论基础的，这一部分称为非光滑分析。此处给大家补充凸分析的基础内容。如果有同学还想继续加深自己的学习，可以参考：1胡毓达等 凸分析与非光滑分析 ，上海科学技术出版社， 20002黄红选等 数学规划 ，清华大学出版社，2006外文的版本不少，你可以以“convex analysis”为主题词去查找。比如，由 Alexander
2、Rubinov 写的 Abstract Convexity and Global Optimization就是一本很好的书，但需要时间去认真研度。2几个重要的凸集合（1）凸包（convex hell） 凸包常用的定义有 2 个，一是：集合 的凸包是 中所SnR有包含 的凸集的交集。另一个可以由此定义推出的一个定理：S定理 2。1（凸包表示定理）设 ，则 中有限个元素（点）的一切凸组合所构nSR成的集合是凸集，并且此凸集就是 的凸包，即11()|,01,mmiiiiHxm凸包的运算性质可用下列定理来表示。定理 2。2 设 ，那么12,nSR1） ，(12)()HS进一步若 是凸集，则 ；, 12
3、()SH2） ；12H3）若 是凸集，则 。,S(12120,)(S关于此两定理的证明可以参看上述文献1。（2）凸锥由定义，可以证明：集合()1|,01,miniiSxxRm是一个凸锥。我们称 为由 所生成的凸锥。S(1)2()x3凸集的分离定理凸集的分离定理是应用凸集到最优化理论中的重要结果，这个结果在最优化理论中有重要的位置。由于时间问题，我们在课堂上没有细讲。这里宜补上。所谓两个凸集分离，直观地看是指两个凸集合没有交叉和重合的部分，因此可以用一张超平面将两者隔在两边。这样理解当然是对的，但数学上需要准确的定量描述，否则在以后的演绎证明过程中，不容易推导了。2定义 设 为两个非空集合，如果
4、存在非零向量 及 ，使得12,nSRnpR2|TnHxp则称超平面 分离了集合 和 。| 1S2仔细看，如果两个被分离的集合在一点上“相切” ，还是可以用一张超平面象一把薄刀，将它们劈开来。为了证明凸集的分离定理，先给出闭凸集合的一个性质。我们不妨把一个闭凸集想象为一个三维的充满了气体的汽球（不一定标准球形的其它形状，但必须是凸的） ，那么，在汽球外一点 ，到汽球各点 （包括内部）的距离是不一样的，但直觉告诉我们，肯定在汽yx球上有一点 ，它到 的距离是所有距离中最小的。这是凸集的特有性质。如果不是凸集，x就不会这样了，比如一个平面上对称心形的图形（它不是凸的）外一点，至少可以找到 2点，使其
5、到外面那一点的距离最小。引理 3。1 设 为非空闭凸集， ，则存在唯一的 ，使得该点与nSRnyRSxS的距离最小，即有y 0|if|xyx根据范数的等价性，这里的范数可以是任一种范数。证明：先证明其存在性。考虑单位超球 |1nBz取足够大的正数 ，使 ， （我们之所以要“制造”出这样一个()DSyB集合，是为了有一个有界闭集！想想看，为什么？）因为 为闭集，而 是一个有界闭集，所以， 是一个非空的有界闭集。SyDSD我们知道，范数 是一个连续函数，一个连续函数在有界闭集上总可以()|fx在其上的某一点取得它的最大值，在另一点上取得其最小值。 （对这个结论不太理解的话，你可以用一元函数在闭区间
6、上画一条连续函数的图线就明白，不过，必须是闭区间！）设这个最小值在 处达到，即 是 到 的最小距离点。记此距离值为 。DxySr再证唯一性。假设还存在另一点 ，使 （*）xS|r记 。1()2x因为 ，两边取范数，则有12yy|xxr但是 为凸集， 是 与 的凸组合，所以 。SSxS而由于 r 是 y 到 S 的最小距离，故 （*）|y根据平行四边形定律（两对角线长的平方和=一组邻边平方和的两倍） （这里要把看为平行四边形的一组邻边，那么一条对角线长为 ，另一条为xy和 ）x2222|4|yxyxy把（*） （*）代入，有 ，40rr故有 ， 唯一性得证。 在此基础上，可给出凸集分离定理。这个
7、定理说，对于凸集 外的一点 y，存在一个向S3量 p，存在一个以此向量为法向量的超平面 ，能够分离点 y 与凸集 。TpxS定理 3。2 （凸集分离定理）设 为非空闭凸集， ，则存在非零向量nSRnR及 ，使得 nR（3。1）,TTpxyx证明：因为 为非空集合， 是 外的一点，故由引理 3。1 知，存在一点 ，使得S Sx0|inf| Sy设 ，那么，因 为凸集，故有 ，使 x ),(xz)1(因此， 222 |)()(|1| xyx 2|2yT上式两边的 可消去，得|y2x SxT ),10(,)(在上式中，令 ，得0ST,0)(记 ，有ypxx,若记 ，则有TSpT,另一方面，由于 0|
8、)()( 2xyxyyTT所以 ,TpxS这正是我们要证明的结果。4凸集分离定理的一个应用例子这里介绍 Farkas 引理，这个定理在我们即将学习的最优性条件中是重要的基础。定理 4。1（Farkas 引理）设 ，则下列两组关系式有且仅有一组有解：nnmRbA,（1） ；0,xbT（2） 。yT证明： 要证明两组关系式只有一个有解，也就是一个有解时，另一个必无解；反过来，一个无解时，另一个则必有解。所以先设（2）有解，我们来证明，此时， （1）则无解。所谓无解，是（1）中的关系式是不能成立的。因为（2）有解，即存在一个向量 ，使得 。此时 ， 记此0ybyATAyT式为（*） 。在看（1） ，
9、假设有 ，使（1）中的地一个关系式成立 。我们来看（1）中x 0x的第 2 个式子会如何？ 把（*）代入 ，有xbT（*）yT上述最后一个不等式的成立是因为 和 的缘故。显然， （*）的结果与0A（1）中的第 2 个关系矛盾，也就是（2）有解时， （1）必无解。这样，第一层的证明就完成了。接下来需要做第 2 层的工作。 （为什么非要做？请思4考！）另一方面，再设（2）无解，我们来证明，在这种情况下， （1）必有解。记集合 ，0,|yAzST则 为非空闭凸集。 （因为是若干闭半空间的交） ，且 。由凸集分离定理知，存Sb在 ，使Rpn,0,TTpzbzS因 （为什么？） ，故有上式知， ，从而
10、。于是S00pT,yAy但因 ，向量 的分量可任意大，因此， 。0yy这样，我们就找到了 ， 使 ， ，从而（1）有解。nRppbT综合上面两个方面的论述，Farkas 引理得到了证明。请大家仔细体会证明过程中用的逻辑关系和技巧，能从中体会到“数学的美”吗？实际上，我们以后在最优化领域中所建立的许多方法，都是建立在这些逻辑思维构成的钢筋组成的地基之上的，没有它们，最优化的大厦立刻回倾倒。所以，我们不要把它们视为无用枯燥的数学游戏。利用 Farkas 引理，我们还可以证明有价值的 Gordan 定理和择一性定理。这里我们只证明 Gordan 定理。 Gordan 定理在证明最优性条件中著名的 K
11、uhn-Tucker 条件，是极为关键的基础。定理 4。2 （Gordan 定理）设 ，则下列两组关系式有且仅有一组有解：nmRA（1） ；0x（2） 0,yyT证明：如果（1）有解，即存在 ，使得 ，则对任意的 ，有nxx0,y，即 。这表明（2）无解。AyT另一方面，如果（1）无解，则不存在 ，使 。记增nR,TAx),(广矩阵 和增广向量 ，其中 。于,e 1)0,(Tb mRe1是，不存在 ，满足nRx0,xA即上述关系组无解。于是，有 Farkas 引理，下述关系组0,ybT有解，也就是关系组,1eAT有解，即等价于（2）有解。这就证明了 Gordan 定理，这个定理将被我们运用到最优性条件的证明中，请大家仔细领会。
