1、第三章 线性方程组求解的数值方法,第二节 范数与条件数,向量范数（Vector norm）,公理化定义：向量范数：满足如下性质的函数：,正定性,齐次性,三角不等性,向量范数,例：判断下面那些是向量范数，那些不是，不满足那些性质。,lp范数：,最常用的范数,向量范数的几何意义,P大于1，p范数为凸函数 P小于1，p范数不为凸函数范数的凸性对求解最优化问题很重要。,除了范数等于0以外，任意范数取值都对应无穷多向量，上述向量构成了高维空间的连续曲面。,向量范数的几何意义,clear all % close all clc% figure hold on axis equal p = 0.4;for
2、iii = 1 : 200t = (iii - 1) / 200 * pi / 2;x1 = (sin(t) . (2 / p);y1 = (cos(t) . (2 / p);plot(x1), (y1), r)plot(-x1), (y1), r)plot(x1), (-y1), r)plot(-x1), (-y1), r) end,利用参数法绘制等范数曲线。,向量范数应用,应用：判断向量的大小,向量范数应用,最重要的用途之一：分析向量收敛性，定义向量的极限：,-语言描述：,为什么没有给出具体是那个范数？,向量范数的等价性定理,向量范数的等价性定理：,推论：向量序列在某范数下收敛，则在任意范
3、数下收敛。,收敛到同一值。,思考题：,度量（距离）的公理化定义：,思考： 1、利用范数定义 是不是度量 2、度量和范数的区别有那些？能不能用度量定义范数？,矩阵范数（Matrix norm）,满足性质14的 的函数,矩阵范数： Frobenius 范数：, 向量| |2的直接推广,正定性,齐次性,三角不等性,任意矩阵范数等价,矩阵范数应用： 病态问题 分析迭代算法的收敛性,矩阵的算子范数（Induced norm）,算子（诱导）范数：由向量范数导出的矩阵范数：,常见算子范数：,列和范数,行和范数,谱范数,矩阵的算子范数,例：已知矩阵A，求算子1范数和算子范数。,矩阵算子,为什么叫做“算子范数”
4、？ 任意离散有限线性算子可表示为矩阵形式。,尺度算子,LTI：线性时不变系统,线性方程组：Linear equation systemLinear system,线性时不变算子的矩阵表示,差分算子,累加算子,线性时不变算子的矩阵表示,时移算子,线性微分方程,线性时变算子的矩阵表示,傅立叶变换,可采用矩阵理论分析线性算子的性能。,矩阵范数的性质,相容性：设a是向量范数， m是矩阵范数,则矩阵范数m为与向量范数a 相容的矩阵范数。,矩阵范数相容性：设矩阵范数，满足：,则矩阵范数为相容矩阵范数。,矩阵范数的性质,性质1：算子范数与其对应的向量范数相容，即：,性质2：算子范数是相容范数：,矩阵范数与谱
5、半径的关系,性质3：对于任意算子范数有：,证明：,定义：矩阵A的谱半径记为 (A) = ，其中i 为 A 的特征根。,矩阵范数与谱半径的关系,性质4：若A对称矩阵，则有：,若 是 A 的一个特征根，则2 必是 A2 的特征根。,若 （最大特征根），则02 必是 A2 的最大特征根。,证明：,范数概念结构,底层概念继承了顶层概念的性质。,病态问题,“良态”问题和“病态”问题 若原始数据有很小的变化x，对应的输出变化y也很小，则称该数学问题是良态问题； 若y很大，则称为病态问题 病态问题中，结果对于数据的变化率都很大（很敏感），因此数据微小变化必将导致参数模型精确解的很大变化 数学问题的病态问题完
6、全取决于该数学问题本身的属性，在采用数值方法求解之前就存在，与数值方法无关。,线性方程组的病态问题,上述两组解都是对应方程的真实解，因此，病态问题与算法无关。,方程系数变化很小，但方程的解变化很大,从系统角度分析，系统输入很小误差，对结果产生很大影响。,线性方程组的病态问题,问题一：b存在扰动： 给定方程组Ax=b，其解为x*， 另给定包含误差方程组Ax=b+e，其解为x，分析其误差。,线性方程组的病态问题,问题二，A 存在扰动： 给定方程组Ax=b，其解为x*， 给定包含误差方程组（A+E）x=b，其解为x，分析误差（A+E 可逆）,令 x= x*+x，将方程（A+E）x=b与Ax*=b 做
7、差，并展开，得到：,矩阵范数的性质,性质：,证明：,上页证明中用到了如下性质：,线性方程组的病态问题,问题三，A，b都存在扰动： 给定方程组Ax=b，其解为x*， 另给定包含误差方程组（A+E）x=b+e，其解为x，分析误差。,条件数的性质,当条件数很大时,方程组 Ax = b是病态问题； 当条件数较小时,方程组 Ax = b是良态问题。,条件数的性质,1、一个问题的病态性与算法有关。 2、无论问题好坏，好的算法都可得到其近似解。 3、提高计算精度，可改变系统病态性。 4、假设A的条件数为1，下面那些矩阵条件数也是1？（1）cA （2）QA,Q为正交矩阵（3）DA，D为对角矩阵 （4）A的逆矩
8、阵（5）BA，B为非奇异矩阵 （6）A的转置矩阵注：A与A的转置具有相同的特征值。,注意：条件数是矩阵的特征，与算法无关。,条件数与所选择的范数有关，不同范数计算的条件数不同。,Hilbert 矩阵,典型的病态矩阵-Hilbert 矩阵：,利用matlab函数“hilb”，产生3阶、5阶、7阶 Hilbert 矩阵,用matlab函数“cond”计算相应的条件数。编程分析矩阵误差对结果的影响。,Hilbert 矩阵,clear all close all clc% 病态方程求解 display(病态方程求解) A = hilb(5) display(strcat(cond(A) = , num
9、2str(cond(A) b1 = 1, 2, 3, 4, 5 * 0.01e = 0.2, -0.1, 0.05, 0.1, -0.3 * 0.01 b2 = b1 + 0.2, -0.1, 0.05, 0.1, -0.3 * 0.01x1 = A b1.; x1 = x1. x2 = A b2.; x2 = x2.display(误差增益为 norm(x1 - x2) / norm(e) display( ) display(strcat(误差增益 = , num2str( (norm(x1 - x2) / norm(e) ) display( ),良态问题的不稳定算法,前面提到，“病态”
10、是问题的固有属性，与选择的算法无关。下面给一个良态问题但存在不稳定算法的例子。,良态问题的不稳定算法,良态问题的不稳定算法,因此，“良态”问题可能存在不稳定的算法。,良态问题的不稳定算法,clear all close all clcE1(1) = exp(-1); for iii = 2 : 40E1(iii) = 1 - iii * E1(iii - 1); end plot(E1)NN = 40; E2(NN) = 10.0;for iii = 1 : (NN - 1)kkk = NN - iiiE2(kkk) = (1 - 1 * E2(kkk + 1) / kkk; end % E2(70) % figure hold on tt = 1 : 30; plot(E2),
