1、第三节 向量范数和矩阵范数,向量范数和矩阵范数是研究迭代法及其收敛性、估计方程组近似解的误差的一种有力工具,本节简要介绍其相关概念。 一、向量范数 1、向量范数的定义 (1)绝对值 范数的最简单的例子,是绝对值函数: 并且有三个熟知的性质:x 0 x 0 x = 0当且仅当x = 0 ax = a x a为常数 x+ y x + y ,第三节 向量范数和矩阵范数,(2)范数的另一个简单例子是二维欧氏空间的长度 欧氏范数也满足三个条件: 设x = (x1, x2) x 0 x 0 ax = a x a为常数 x+ y x + y 前两个条件显然,第三个条件在几何上解释为三角形一边的长度不大于其它
2、两边长度之和。因此,称之三角不等式。,(勾股定理),第三节 向量范数和矩阵范数,(3)下面我们给出n维空间中向量范数的概念:设X = (x1, x2, , xn)T,记为X R n定义1:设X R n, 表示定义在Rn上的一个实值函数,称之为X的范数,它具有下列性质:非负性:即对一切X R n,X 0, 0齐次性:即为任何实数a R,X R n,三角不等式:即对任意两个向量X、Y R n,恒有从以上规定范数的三种基本性质、立即可以推出Rn中向量的范数必具有下列性质: 0 = 0,第三节 向量范数和矩阵范数,2、常用的范数 设X = (x1, x2, xn)T,则有: (1)向量的1范数(2)向
3、量的2范数(3)向量的无穷范数不难验证,上述三种范数都满足定义的条件。,第三节 向量范数和矩阵范数,3、举例 例1:求向量范数,解:,第三节 向量范数和矩阵范数,例2:P128 设下x=1 2 3T,求x的1范数,2范数和无穷范数 解:根据定义可以得到:,第三节 向量范数和矩阵范数,二、矩阵范数 1、定义 对于任意n阶方阵A,按一定的规则由一实数与之对应,记为 ,若满足:则称 为矩阵A的范数。,正定,奇次,三角不等,第三节 向量范数和矩阵范数,2、常用的矩阵范数 (1)矩阵的1范数,第三节 向量范数和矩阵范数,(2)矩阵的无穷范数,第三节 向量范数和矩阵范数,(3)矩阵的2范数矩阵的谱半径:
4、矩阵B的诸特征值为: 则特征值的最大绝对值称为B的谱半径,记为:则: 矩阵的2范数其实为AAT的谱半径的1/2次方。,第三节 向量范数和矩阵范数,5、举例 例1:求矩阵A的各常用范数解:,第三节 向量范数和矩阵范数,先求ATA的特征值:特征方程为:解之可得ATA特征值:,第三节 向量范数和矩阵范数,可得: 所以:对各个常用范数比较:,容易计算,计算较复杂,对矩阵元素的 变化比较敏感,使用最广泛,性质较好,第三节 向量范数和矩阵范数,例2:,第三节 向量范数和矩阵范数,例3:P129 例67,第四节 解线性方程组的迭代法,迭代法在计算过程中保持迭代矩阵不变,这类方法主要适用于大型稀疏线性方程组的
5、求解。 其基本思想是通过构造迭代格式产生迭代序列,由迭代序列来逼近原方程组的解。,第四节 解线性方程组的迭代法,一、迭代法的基本思想 设有线性代数方程组: a11x1+a12x2+a1nxn=b1 a21x1+a22x2+a2nxn=b2. . . . . . . . . . . . . . . . . . . . . an1x1+an2x2+annxn=bn用矩阵表示: Ax =b 其中A 为系数矩阵,非奇异且设aii0;b为右端,x为解向量 做方程组的一个等价变换为:x=Bx+f,第四节 解线性方程组的迭代法,任取初始向量x(0),按照下列公式构造迭代序列:结论:如果迭代序列 收敛,则它一
6、定收敛到方程组的解概念: 迭代公式:迭代矩阵:B 不同的迭代矩阵构成不同的迭代法,先介绍两种迭代法:雅可比迭代法和高斯赛得尔迭代法。,第四节 解线性方程组的迭代法,二、雅可比( Jacobi )迭代法 1、公式推导 方程组: a11x1+a12x2+a1nxn=b1 a21x1+a22x2+a2nxn=b2. . . . . . . . . . . . . . . . . . . . . an1x1+an2x2+annxn=bn,-(1),第四节 解线性方程组的迭代法,依此类推,线性方程组可化为:,-(2),第四节 解线性方程组的迭代法,对(2)作迭代过程:,-(3),则(3)式转化为矩阵形式
7、:,-(4),第四节 解线性方程组的迭代法,另外,(2)还可以转化为矩阵形式:(教材),-(5),第四节 解线性方程组的迭代法,令:,A的下三角部分矩阵,A的上三角部分矩阵,-(6),第四节 解线性方程组的迭代法,由式(4)(5)(6)可以有:,-(7),式(7)等价线性方程组为,称 (7)式为解线性方程组(1)的Jacobi迭代法(J法),由式(4)(5)(6)总结有:,第四节 解线性方程组的迭代法,2、举例 例1:用Jacobi迭代法求解方程组,误差不超过1e-4,解:雅克比迭代公式为:,第四节 解线性方程组的迭代法,可以得到:,第四节 解线性方程组的迭代法,依此类推,得方程组满足精度的解
8、为x12,迭代次数 为12次,x4 = 3.0241 1.9478 0.9205 d = 0.1573x5 = 3.0003 1.9840 1.0010 d = 0.0914x6 = 2.9938 2.0000 1.0038 d = 0.0175x7 = 2.9990 2.0026 1.0031 d = 0.0059x8 = 3.0002 2.0006 0.9998 d = 0.0040x9 = 3.0003 1.9999 0.9997 d = 7.3612e-004 x10 = 3.0000 1.9999 0.9999 d = 2.8918e-004 x11 = 3.0000 2.0000
9、1.0000 d = 1.7669e-004 x12 = 3.0000 2.0000 1.0000 d = 3.0647e-005,第四节 解线性方程组的迭代法,例2:用Jacobi迭代法求解方程组的解 P131,第四节 解线性方程组的迭代法,三、高斯赛德尔迭代法法 1、高斯赛德尔迭代法的推导 分析Jacobi迭代法的迭代过程,将其公式细化,第四节 解线性方程组的迭代法,观察发现:,高斯赛德尔迭代分量的形式:,第四节 解线性方程组的迭代法,第四节 解线性方程组的迭代法,由上式可以得到:写成矩阵的形式:,第四节 解线性方程组的迭代法,可以进一步推导:,上式称为Gauss-Seidel迭代法,简称
10、G-S法,第四节 解线性方程组的迭代法,2、举例: 用高斯赛德尔迭代法求解方程组,误差不超过1e-4,解:,第四节 解线性方程组的迭代法,通过迭代,至第7步得到满足精度的解x7从该例可以看出,Gauss-Seidel迭代法的收敛速度比Jacobi迭代法要高,x1 =2.5000 2.0909 1.2273 d =3.4825 x2=2.9773 2.0289 1.0041 d =0.5305 x3 =3.0098 1.9968 0.9959 d =0.0465 x4 =2.9998 1.9997 1.0002 d =0.0112 x5 =2.9998 2.0001 1.0001 d =3.9735e-004 x6 =3.0000 2.0000 1.0000 d =1.9555e-004 x7 =3.0000 2.0000 1.0000 d =1.1576e-005,