1、矩阵的范数范 数 的 定 义若 X 是 数 域 K 上 的 线 性 空 间 , 泛 函 : X-R 满 足 : 1. 正 定 性 : x 0, 且 x =0 x=0; 2. 正 齐 次 性 : AB A B ; 3. 次 可 加 性 (三 角 不 等 式 ): A+B A + B 。 那 么 称 为 X 上 的 一 个 范 数 。 ( 注 意 到 x+y x + y 中 如 令 y=-x, 再 利用 -x = x 可 以 得 到 x 0, 即 x 0在 定 义中 不 是 必 要 的 。 )在AX=B式中,当A、B有微小扰动时,参数估值也有扰动:(AA)()BB (1)AA ()+BA-1A()
2、AB将上式两端取范数,并应用向量范数的三角不等式 AB A B ; A+B A + B 。| |A-1|A|( | | |) |A-1| |B|把含有的项移到式子的左边有:(1-|A-1|A|)|A-1|A| |+|A-1| |B|由于有|A|/|B|将上式两端同时乘以|得:(1-|A-1|A|)|/|X|A-1|A| +|A-1|B|A|/|B|;设K=|A|A-|将上式整理的:(1-K|A|/|A|)|/|X|K(|A|/|A|+|B|/|B|);即有:|/|X|k/(1-K|A|/|A|)(|A|/|A|+|B|/|B|);问题与实验1:试从几何的角度解释矩阵出现病态的原因,并用有说服力
3、的例子来支持你的观点;线性方程组解的敏感性的几何解释(2x2矩阵)线性方程组求解:两直线求交点下面两图分别反映了良态问题和病态问题两种情况。良态情况 病态情况由图像可以看出当两条直线的夹角较大时其精确解与近似解距离较小(其中两条直线的交点是其精确解)当两条直线的夹角较小时其精确解与近似解距离较大。虚线为直线的系数产生微小的扰动时的直线。下面我们用两个例子说明:例 设方程组 ,即 ,它的精确解为bAx01.801.622x. A=2,6;2,6.00001;T)1,(B=8;8.00001C=double(AB)cond(A)norm(A)A =2.0000 6.00002.0000 6.000
4、0B =8.00008.0000C = 1 1 ans = 4.0000e+006ans =8.9443下面我们来求上面两条直线的夹角:计算直线夹角根据给定的节点,计算夹角信息,示意图如下。已知点X1(x1, y1)、点X2(x2, y2)、点X3(x3, y3),计算直线由点X2,X1与X2,X3的夹角信息。根据向量内积,得到计算公式为:theta1 = acosd(dot(x1-x2,y1-y2,x3-x2,y3-y2)/(norm(x1-x2,y1-y2)*norm(x1-x2,y3-y2);其中,dot(x1-x2,y1-y2,x3-x2,y3-y2)为计算内积,norm(x1-x2,
5、y1-y2)为计算向量长度,acosd为计算以度为单位的夹角信息。由这个公式计算这两条直线的夹角:theta1 = acosd(dot(2,6,2,6.00001)/(norm(2,6)*norm(2,6.00001)theta1 =2.8649e-005它的图像是0.9 1 1.1 1.2 1.30.960.970.980.9911.011.021.031.041.059.9 9.95 10 10.05 10.1-2.04-2.03-2.02-2.01-2-1.99-1.98-1.97-1.96-1.95X1=0.9:0.0001:1.1; y=-1/3*X1+4/3; z=-2/6.000
6、01*X1+8.00001/6.00001; subplot(1,2,1)hold on plot(X1,y,b) plot(X1,z,g) X2=9.9:0.0001:10.1; n=-1/3*X2+4/3; m=-2/5.99999*X2+8.00002/5.99999; subplot(1,2,2)hold on plot(X2,n,r) plot(X2,m,g) 现在考虑系数矩阵和右端项的微小变化对方程组解的影响,即考察方程组,02.89.52621x其解变为 . A=2,6;2,5.99999;T),10(B=8;8.00002C=double(AB)cond(A)norm(A)A
7、=2.0000 6.00002.0000 6.0000B =8.00008.0000C =10 -2 ans =4.0000e+006ans = 8.9443.同样我们来计算这两条直线产生夹角:theta1 = acosd(dot(2,6,2,5.99999)/(norm(2,6)*norm(2,5.99999)theta1 =2.8649e-005从上面的结果可以看出系数矩阵的条件数较大,病态较严重,还可以看出对于系数矩阵微小的变化会对两条直线的夹角产生微小的影响,由于夹角的微小变化,会造成解的巨大变化。下面我们来看两条相互垂直的直线系数矩阵微小的变化对解的影响:3X+4Y=12;4X-3Y
8、=6;其解为:A=3,4;4,-3;B=12;6C=double(AB)cond(A)norm(A)A = 3 44 -3B=126C = 2.40001.2000ans =1(其中这是这个方程组的条件数。)ans =5对于系数矩阵产生微小的偏差:A=2.999,4.09;4,-3;B=12;6C=double(AB)cond(A)norm(A)A = 2.9990 4.09004.0000 -3.0000B = 126C = 2.38751.1833ans =1.0180ans =5.0808画上面的两条直线图像:2.2 2.3 2.4 2.50.90.9511.051.11.151.21.
9、251.31.351.42.2 2.3 2.4 2.50.90.9511.051.11.151.21.251.31.351.4X1=2.2:0.0001:2.5; y=-3/4*X1+12/4; z=4/3*X1-6/3; subplot(1,2,1)hold on plot(X1,y,b) plot(X1,z,g) X2=2.2:0.0001:2.5; n=-2.999/4.09*X2+12/4.09; m=4/3*X2-6/3;subplot(1,2,2)hold on plot(X2,n,r) plot(X2,m,g) 可以看出这两条直线是相互垂直的,当系数矩阵产生微小的变化时,会对两直
10、线的夹角产生微小的变化,这种变化对其解不会产生太大影响。 从空间几何图形体积的角度来认识矩阵病态态性在线性模型的最小二乘估计中,从空间几何图形的角度来理解病态性就是法矩阵列向量之间的复共线性,即病态越严重则复共线的列向量在多维空间的夹角就越小,由列向量形成的超平行多面体的体积就越小A=2,6,5;2,6.0001,5.0002;1,2,3;det(A)B=2,6,5;1.9997,6.0003,4.9991;1,2,3;det(B)。A =2.0000 6.0000 5.00002.0000 6.0001 5.00021.0000 2.0000 3.0000ans =5.0000e-004B =2.0000 6.0000 5.00001.9997 6.0003 4.99911.0000 2.0000 3.0000ans =9.0000e-004