1、1周国标师生交流讲席 010向量和矩阵的范数的若干难点导引(二)一 矩阵范数的定义引入矩阵范数的原因与向量范数的理由是相似的，在许多场合需要“测量”矩阵的“大小” ，比如矩阵序列的收敛，解线性方程组时的误差分析等，具体的情况在这里不再复述。最容易想到的矩阵范数，是把矩阵 可以视为一个 维的向量（采用所谓mnACn“拉直”的变换） ，所以，直观上可用 上的向量范数来作为 的矩阵范数。比mAC如在 范数意义下， ； （1.1）1l1|mnijija12tr()H在 -范数意义下， ， （1.2）2l 121|nFijijA注意这里为了避免与以后的记号混淆，下标用“F” ，这样一个矩阵范数，称为Fr
2、obenius 范数，或 F-范数。可以验证它们都满足向量范数的 3 个条件。那么是否矩阵范数就这样解决了？因为数学上的任一定义都要与其对象的运算联系起来，矩阵之间有乘法运算，它在定义范数时应予以体现，也即估计 的“大小”相对于AB的“大小”关系。AB与定义 1 设 ，对每一个 ，如果对应着一个实函数 ，记为 ，它满mnCA()N|足以下条件：（1）非负性： ；|0（1 a）正定性： |0mnO（2）齐次性： ；|,C（3）三角不等式： A|,mnBB则称 为 的广义矩阵范数。进一步，若对 上的同类广义矩阵()|NA ,llC范数 ，有|（4） （矩阵相乘的）相容性： ， ，|Anl则称 为
3、的矩阵范数。()|我们现在来验证前面（1.1）和（1.2）定义的矩阵范数是否合法？我们这里只考虑（1.2）,把较容易的（1.1）的验证留给同学们，三角不等式的验证。按列分块，记 。1212(,),(,)nnAaBb 212 |),(| FFbaBA21 | nb222| |n 2 221 121| | |n n na abb 2对上式中第 2 个括号内的诸项，应用 Cauchy 不等式，则有2|FFFABAB2(|)FAB（1.3）于是，两边开方，即得三角不等式。再验证矩阵乘法相容性。 2 2211| |mlnmlnFikj ikiij ijabab（这一步用了 Cauchy 不等式）221|
4、liksjij（1.4）21|mnnliksjFi sjabAB可见，矩阵相容性满足。这样就完成了对矩阵 F-范数的验证。是不是这样直接将向量范数运用到矩阵范数就可以了吗？No!运用 -范数于矩阵范数时便出了问题。如果 ，那么,这样的矩阵范l 1|max|ijijn数在下面一个例子上就行不通。设 。因此，按上述矩阵21,AA-范数的定义， ，于是|1,|2但这是矛盾的。所以简单地将 -范数运用于矩阵范数，是不可行的。l虽然这仅是一个反例，但是数学的定义是不可以有例外的。 由此，我们必须认识到，不能随便套用向量范数的形式来构造矩阵范数。 为此, 我们仅给出矩阵范数的定义是不够的，还需要研究如何构
5、成具体的矩阵范数的方法。当然，你也可以不去考虑构成方法，一个函数一个函数去试，只要满足条件就行。不过这样做的工作量太大，也很盲目。第二，在实际计算时，往往矩阵与向量出现在同一个计算问题中，所以在考虑构造矩阵范数时，应该使它与向量范数相容。比如要考虑 的“大小” ， 是一个向量，但它Axx由 与 相乘而得的，它与 的“大小”和 的“大小”的关系如何？ 这提出了两类范AxA数相容的概念。定义 2 对于 上的矩阵范数 和 上的同类向量范数 ，如果成立mnC|M,mnC|V（1.5）|, nVVxxx则称矩阵范数 与向量范数 是相容的。M|例 11 可以证明 是与向量范数 相容。121|mnFijij
6、Aa12tr()HA2|事实上，在（1。2）中，取 ，那么BxC2 2|Fxx二 矩阵算子范数现在给出一种构造矩阵范数的一般方法，它可以使构造出的矩阵范数与向量范数相容，当然，它也满足定义 1 规定的 4 个条件。3定义 3 设 上的同类向量范数为 ， ，定义在 空间上的矩阵,mnC|VmnACmn的由向量范数 诱导给出的矩阵范数为A|V（2.1）0|axVA可以验证，这样定义出的矩阵范数 满足定义 1 规定的 4 个条件，同时又满足矩阵范|V数与向量范数相容性要求（定义 2） 。由于有什么样的向量范数 ，就有什么样的矩阵|V范数，所以，这样的矩阵范数称为由向量范数诱导出的，简称诱导范数；又因
7、为（2.1）实际上规定了一个函数（或算子） ，故又称为算子范数。（2.1）给定的范数实际是寻求一个最优化问题的最优值，求目标函数 的最大|VAx值，约束条件是 ，也就在 空间中除原点外的点中，找一个 n 维向量 ，使0xnC取得最大值。如果直接考虑这样一个优化问题, 还是有困难的. 可以证明，它可|VAx以下列等价方式定义, 使问题的处理简单。（2.2）0|maxVVA|1|1axmax|VA事实上, 分母上的 是一个正数( ), 那么根据向量范数的齐次性有| 0000|1|1|axaxaxaxma| |VVV zxV A上面第 3 个等号成立是因为向量 为一个单位向量。|Vz下面我们从理论上
8、证明这样的矩阵范数 满足定义 1 规定的 4 个条件，同时又满|A足矩阵范数与向量范数相容性要求。定理 2。1 由（2.1）或（2.2）给定的 上的矩阵范数满足矩阵范数定义 1 的 4 个mnC条件，且与相应的向量范数相容。证明： 首先，矩阵范数与向量范数的相容性是不难证明的，事实上， 对 =1, |Vx, 因此,矩阵范数与向量范数的相容性条件|1|max|VV VzAxAx（1.5）成立。我们下面来验证（2.1）或（2.2）满足矩阵范数的 4 个条件。这 4 个条件中，前 2 个也容易验证，因此这里只来考察第 3,4 个条件。三角不等式的验证: 对于任一 mnBC|1|1|1|ax()axa
9、x|ABAAB| |m|矩阵相乘相容性的验证: 由（1.5） ，不难有|VVVxxx4当 时，0x|VVABx所以 0|ma|xAB至此，证实了用算子范数确能给出满足矩阵范数定义和矩阵范数与向量范数的相容性的矩阵范数。推论 1 对于 上的任一种向量诱导范数，都有 nC |1|max|II（2。3）但是要注意的是，对一般的矩阵范数，对任一向量 ，有nxC|xIx故有 。1比如， 不是诱导矩阵范数，所以 。|FA|1FI三几个常用的诱导矩阵范数上面的论述表明，诱导矩阵范数与向量范数密切相关，有何种向量范数，就有什么样的诱导矩阵范数。下面就来具体地构造几个常用的诱导矩阵范数。设 。mnAC例 31
10、设 ，由向量 -范数诱导而来的最大列和诱导矩阵范数mnAC1l（3.1）|ax|mijjni证明：按列分块，记 ，则由（3.1）和向量 -范数的定义可知12(,) 1l|jjn设 ，且有12(,)nxxC 1|x1|A1 11|mmnnmij ijjiji ijjiaaxa1|ijjijj jx因此, (+)1|a|xA1a|mijji另一方面,选取 k,使得 11|m|i ijji i令 为第 k 的单位向量 ,那么0x(0,0)Tke 012(,)TkkmkAxaa(+)111|ax|mmi ijji iAx综合(+)与(+)可知, 由向量 -范数诱导出的矩阵范数既是 的上界,又是其下界,
11、 因l 1|此必有(3.1).5例 3. 2 设 ，矩阵谱范数由 -范数诱导得出的矩阵范数，定义为mnAC2l(3.2)2 max1|ax| ()HHAA是 的 特 征 值其中 为 的最大奇异值, 当 时, (3.3)1nR2|T证明:首先由线性代数, 是半正定矩阵, 事实上,对任一 ,有nC(,)()|0HHHxx因此, 的特征值都为非负实数,记为 ,而且 具有 n 个相A12n HA互正交的, -范数等于 1(即标准化了的)特征向量 ,它们分别对应于特征值2l ()(),xx。10n故这组特征向量构成了一组标准正交基，用它们可表示任一个范数 的向量 ： 2|1x()1niix而且，由 ，
12、可得到 。2|x2i这样， 。()()()111nnnHiHi ii iiAxAxx由此2()()11|(,),nniiiix，22221 11|nni也就是 21|Ax由 的任意性和算子范数的定义x（*）221|ma|x另一方面，由 ，并且取 对应的特征向量 ，考虑21(1)x(1)(1)()()() (1)2|,|Hx x所以 （*）2(1)22|1|a|xAAx综合（*）和（*） ，由 -范数诱导得出的矩阵范数应为l。21 max1|m| ()HHA是 的 特 征 值例 33 设 ， -范数诱导得出的矩阵范数nACl（3.4）1|ax|nijimj证明：设 ，即 。12|(,),Tnx
13、且 ax|1ii111|aa|nnij ij ijimi ij jAxx61 1max(|ax|)ma|n nijj iji jij j 由算子范数，（*）|1| |xA1|nijij另一方面，选取 k，使得11|a|nnj ijij j令 其中 ，12(,),Tnyy ,0|kjkjj jifa则 ，从而有|max|1jj，1*|*nkjjaAy由算子范数 。 （*）|111|max|max|nnkj ijij jAAy综合（*）和（*） ，便得。1|nijimja除了上述 3 种常用的矩阵范数外，Frobenius 范数虽然不是算子范数，但也经常所用，在讨论序列收敛等问题上是等价的。例 3
14、4 设 ，求其各种矩阵范数。124A解： 最大列和 = 6；1|最大行和 = 7；22| 305.47F5.6A四 由矩阵范数推出的向量范数7矩阵范数可由向量范数诱导，反过来，向量范数有时也可从矩阵范数推出。例 41 设 是 上的矩阵范数，任取 中的非零向量 ，则函数|MnCnCy（4。1）|,HVMxyx是 上的向量范数，且矩阵范数 与向量范数 相容。n |V证明：欲证 是一个向量范数，只须验证它满足向量范数得个条件。|非负性：当 时，由于 非零，故 ；0|0,HnMyxC当 时， ，故 。xHnyOVx齐次性：对任一常数 ，有cC。|VMMc三角不等式： 对任意的 ，有,nxz|()|HH
15、HMxzyxzxyz。V因此由向量范数的定义知， 是一个向量范数。|V下面再证两种范数的相容性。如果 ，那么,nnAC。|()|()|HHHVMMMVAxyxyxyAx可见，矩阵范数 与向量范数 相容。V五 范数的若干应用范数的应用很广泛，这里只举 2 例。1 矩阵奇异性的条件对于矩阵 ，能否根据其范数的大小，来判别 的奇异性？判别一个矩阵的奇nAC()IA异性，并不方便（比如计算 的行列式的值是否非零，判断 的诸列是否线性无关等，均A不大容易） ，但矩阵的范数的计算，如 ，还是方便的。1|,|定理 5.1 (Banach 引理) 设矩阵 ,且对矩阵 上的某种矩阵范数 ,有nCn|, 则矩阵
16、非奇异,且有|1(I(5.1)1| IA证明: 假设矩阵范数 与向量范数 相容。欲证矩阵 非奇异，可通过|x()IA。det()0IA用反证法。假设 ，则齐次线性方程组 有非零解 ，即det()0I0x0x,x于是， 。00两边取范数 0|VVAx其中最后一个不等号是由于 。 但上式是矛盾的，假设 不成立，1det()0IA从而矩阵 非奇异，故有逆。()I再由 可得 1()I11()()II两边取范数，得 | |再移项，有 |A8从而 1|()IIA这正是我们要想证明的。在推演分析 的直接法的误差分析时起重要的作用。xb请同学们自行证明下面类似的结果。定理 5.2 设矩阵 ,且对矩阵 上的某种
17、矩阵范数 ,有 ，则nCn|1A1|()|AI2近似逆矩阵的误差逆矩阵的摄动在数值计算中，误差无处不在，考虑由于这些误差存在而带来的后果，是一项重要的课题。设矩阵 的元素 带有误差 ，则矩阵的真实的值应为nACija,(1,2)ij n，其中 称为误差矩阵，又叫摄动矩阵。()ij若 为非奇异，其逆阵为 。问题是： 与 的近似程度如何呢？或者1A1说， 与 的“距离”大小为多少？1()下面是回答上述问题的摄动定理。定理 5.3 设矩阵 非奇异， ，且对 上的某种矩阵范数 ，nACnBnC|有 ，则（1） 非奇异； （2）记 ，那么 |AB 1()FIAB；|F（3） 。111()| AB证明：由
18、于 ，所以 。由定理 5。1， 非奇异，故|AB|1()IAB非奇异。1()I在定理 5。2 中，将 换成 ，即得（2） 。1又因为 ，11()I两边取范数，并利用（2）的结论，可得，1111|()|ABA即可得到（3） 。 3矩阵谱半径及其性质矩阵谱半径是一个重要的概念，在特征值估计，广义逆矩阵，数值计算（特别在数值线性代数）等理论中，都占有极其重要的地位。定义 4 设矩阵 的 n 个特征值为 （含重根） ，称 为矩阵AC12,n max|ii的谱半径，记为 。A()关于矩阵谱半径的最证明也是最重要的结论是，矩阵 的谱半径不超过其任一种矩阵A范数。这个结果已经在课堂上证明过了。作为练习，请同
19、学们对 验证这个结论。132iA9关于矩阵谱半径的第 2 个重要结论是，如果矩阵 为 Hermite 矩阵，则 。A2|()A证明留给大家。虽然 Hermite 矩阵的谱半径与其谱范数相等，但是，一般矩阵的谱半径与其谱范数可能相差很大。下面关于矩阵谱半径的第 3 个重要结论，刻画了谱半径与矩阵范数之间的另一种定量关系。，定理 5。4 设矩阵 ，对任意正数 ，存在一种矩阵范数 ，使得nAC|M|()M证明： 根据 Jordan 标准型，对 ，存在非奇异的 ，使nnPC1PJ如果记 和2(,)ndiag， 13100nI 01i或则 Jordan 标准型 ，其中 为 的特征值。JI2, A又记 ，则有21(1,)nDdiag1()PAPDJI，1231n 记 ，那么 为非奇异，且有SPDS。11|()AIA另一方面，容易验证， 是 上的矩阵范数，所以1|MSnC。 1|5向量和矩阵范数在求解 的直接法的误差分析中应用xb这一内容我在课堂上讲的比较仔细，这里就略去了。
