1、1数值线性代数习题解答习题 1求下三角阵的逆矩阵的详细算法。解 设下三角矩阵 L 的逆矩阵为 T我们可以使用待定法,求出矩阵 T 的各列向量。为此我们将 T 按列分块如下:注意到我们只需运用算法 111,逐一求解方程便可求得注意 考虑到内存空间的节省,我们可以置结果矩阵 T 的初始状态为单位矩阵。这样,我们便得到如下具体的算法:算法(求解下三角矩阵 L 的逆矩阵 T,前代法)设 为两个上三角矩阵,而且线性方程组是非奇异的,试给出一种运算量为 的算法,求解该方程组。解 因 ,故为求解线性方程组,可先求得上三角矩阵 T 的逆矩阵 ,依照上题的思想我们很容易得到计算 的算法。于是对该问题我们有如下解
2、题的步骤:(1)计算上三角矩阵 T 的逆矩阵 ,算法如下:算法 1(求解上三角矩阵的逆矩阵,回代法。该算法的的运算量为)2(2)计算上三角矩阵 。运算量大约为 .(3)用回代法求解方程组: .运算量为 ;(4)用回代法求解方程组: 运算量为 。算法总运算量大约为:证明:如果 是一个 Gauss 变换,则也是一个 Gauss 变换。解 按 Gauss 变换矩阵的定义,易知矩阵 是 Gauss 变换。下面我们只需证明它是 Gauss 变换 的逆矩阵。事实上注意到 ,则显然有 从而有确定一个 Gauss 变换 L,使解 比较比较向量 和 可以发现 Gauss 变换 L 应具有功能:使向量 的第二行加
3、上第一行的 2 倍;使向量 的第三行加上第一行的 2 倍。于是 Gauss 变换如下证明:如果 有三角分解,并且是非奇异的,那么定理112 中的 L 和 U 都是唯一的。3证明 设 ,其中 都是单位下三角阵,都是上三角阵。因为 A 非奇异的,于是注意到,单位下三角阵的逆仍是单位下三角阵,两个单位下三角阵的乘积仍是单位下三角阵;上三角阵的逆仍是上三角阵,两个上三角阵的乘积仍是上三角阵。因此,上述等将是一个单位下三角阵与一个上三角阵相等,故此,它们都必是单位矩阵。即 ,从而即 A 的 LU 分解是唯一的。设 的定义如下证明 A 有满足 的三角分解。证明 令 是单位下三角阵, 是上三角阵。定义如下容
4、易验证:设 A 对称且 ,并假定经过一步 Gauss 消去之后,A 具有如下形式证明 仍是对称阵。证明 根据 Gauss 变换的属性,显然做矩阵 A 的 LU 分解的第一步中的 Gauss 变换为4其中 ,将 A 分块为那么即 由 A 的对称性, 对称性则是显而易见的。设 是严格对角占优阵,即 A 满足又设经过一步 Gauss 消去后,A 具有如下形式试证:矩阵 仍是严格对角占优阵。由此推断:对于对称的严格对角占优矩阵来说,用 Gauss 消去法和列主元 Gauss 消去法可得得同样的结果。证明 依上题的分析过程易知,题中的于是 主对角线上的元素满足(1)非主对角线上的元素满足由于 A 是严格
5、对角占优的,即 故5从而(2)综合(1)和(2)得即,矩阵 仍是严格对角占优阵。设 有三角分解。指出当把 Gauss 消去法应用于矩阵 时,怎样才能不必存储 L 而解出 Ax=b?需要多少次乘法运算?解 用 Gauss 消去法作 A 的 LU 分解,实际上就是对系数矩阵 A 作了一组初等行变换,将其化为上三角矩阵 U。而这一组的初等行变换对应的变换矩阵就是 ,即如果把这一组初等行变换施加于方程右端向量 b 上,即有这就是说,方程组 和 是同解方程。而后者是上三角形方程组,可运用本章算法 112 求解。这样我们就不必存储 L,通求解方程组 ,来求解原方程组 。算法如下:(1)用初等变换化 ;(2
6、)利用回代法求解方程组 。该算法所需要的加、减、乘、除运算次数为10A 是正定阵,如果对 A 执行 Gauss 消去一步产生一个形式为6的矩阵,证明 仍是正定阵。证明 不妨设从而有由于 非奇异,故对 且 ,构造 ,及,则由 A 的正定性有由 x 的任意性知, 正定。11设并且 是非奇异的。矩阵称为是 在 A 中的 Schur 余阵。证明:如果 有三角分解,那么经过 步 Gauss 消去以后,S 正好等于(114)的矩阵证明 因为 有三角分解,所以矩阵 A 可保证前 步 Gauss 消去法可以顺利完成。即有如下单位下三角矩阵使注意到7比较两式便知, ,故有12证明:如果用全主元 Gauss 消去
7、法得到 PAQ=LU,则对任意 有证明 略。13利用列主元 Gauss 消去法给出一种求逆矩阵的实用算法。解 设 A 是非奇异的,则应用列主元 Gauss 消去法可得到这里:P 是置换阵,L 是单位下三角阵,U 是上三角阵。于是,通过求解下列 n 个方程组便可求得于是也就是说,求 A 的逆矩阵,可按下列方案进行:(1)用列主元 Gauss 消去法得到: ;(2)经求解: 得;(3)对 X 进行列置换得: 。14假定已知 的三角分解:A=LU。试设计一个算法来计算的( i, j)元素。解 求解方程组则 x 的第 i 个分量 就是 的(i,j)元素。15证明:如果 是严格对角占优阵(参见第 8 题
8、),那么A 有三角分解 A=LU 并且证明 仿照第 8 题的证明,容易证明:对于 是严格对角占优阵,经过一步 Gauss 消去后,得到8其中 仍是严格对角占优阵。 A 的三角分解 A=LU 中这样,我们在对 A 进行列主元三角分解时,不需要选择主元,因为每次消元时,主元位置上的元素恰好是列主元。因此,16形如 的矩阵称作 Gauss-Jordan 变换,其中.(1)假定 非奇异,试给出计算其逆矩阵的公式。(2)向量 满足何种条件才能保证存在 使得?(3)给出一种利用 Gauss-Jordan 变换求 的逆矩阵 的算法。并且说明 A 满足何种条件才能保证你的算法能够进行到底。解 为解决本问题,我
9、们引入 Gauss-Jordan 变换的两个性质:性质 1: .事实上,性质 2:Gauss-Jordan 变换 非奇异的充分必要条件是.(1)运用待定法,首先设 的逆矩阵为,则有故应有(2)欲使 ,则应有即9因此, 应满足 ,便可按上述方法得到 使得。(3)设 A 的逆矩阵 ,则应有下面我们给出利用 Gauss-Jordan 变换求解方程组的计算方法。算法如下:假定 A 的各阶主子阵非零,记第 1 步:假若 ,令 ,构造 ,用 左乘 和 ,得到其中第 2 步:假定 ,令,构造 ,用 左乘 和 ,得到其中10照此下去,直到第 n 步:假定 ,构造 ,用 左乘 和 ,得到经上述 n 步,我们得知
10、:故从上面的约化过程可知,要保证算法进行到底,必须保证:我们可以仿照定理 1.1.2 给出下列定理。定理: 的充分必要条件是矩阵 的各阶顺序主子阵非奇异。证明 对于 用归纳法。当 时, ,定理显然成立。假定定理直到 成立,下面只需证明:若 非奇异,则 非奇异的充要条件是 即可。由归纳假定知因此, Gauss-Jordan 约化过程至少可以进行步,即可得到 个 Gauss-Jordan 变换 使(16-1)由此可知 的 阶顺序主子阵有如下形式若将 的 阶顺序主子阵分别记为 ,则由(16-1 )知11注意到 所以即 非奇异的充要条件是17证明定理 131 中的下三角阵 L 是唯一的。证明 因 A
11、是正定对称矩阵,故其各阶主子式均非零,因此 A 非奇异。为证明 L 的唯一性,不妨设有 和 使那么注意到: 和 是下三角阵, 和 为上三角阵,故它们的逆矩阵也分别是下三角阵和上三角阵。因此, 只能是对角阵,即从而于是得知18证明:如果 A 是一个带宽为 2m+1 的对称正定带状矩阵,则其Chelesky 因子 L 也是带状矩阵。L 的带宽为多少?证明 带宽为 2m+1 的矩阵的认识:当 m=1 时,2m+1=3,该带宽矩阵形为:对 m 为任意一个合适的正整数来说,带宽为 2m+1 的矩阵元素有如下特征:结合这一特征,对于带宽为 2m+1 的对称正定带状矩阵 Ar 的 Colicky分解算法,可
12、改写成下列形式:12从算法不难看出:Colicky 因子 L 是下三角带状矩阵,L 的带宽为m+1.19若 是 A 的 Cholesky 分解,试证 L 的 i 阶顺序主子阵正好是 A 的 i 阶顺序主子阵 的 Cholesky 因子。证明 将 A 和 L 作如下分块其中: 为矩阵 A 和 L 的 i 阶顺序主子阵。 。显然故有 。即 是 的 Colicky 分解。20证明:若 是对称的,而且其前 个顺序主子阵均非奇异,则 A 有唯一的分解式其中 L 是单位下三角矩阵,D 是对角矩阵。证明 先证明存在性。根据定理 112 知,存在单位下三角阵 L 和上三角阵 U,使 A=LU,且 U 的主对角
13、线上元素除 外,其余都不为零。令 ,则有单位上三角阵 使 ,即有又因为 ,则从而根据 L 和 的可逆性知:13该等式左端是一个上三角阵,右端是下三角阵。因此它们等于对角阵。再注意到单位上三角阵的乘积仍是单位上三角阵,单位下三角阵的乘积仍是单位下三角阵。因此两端都等于 D。于是从而有再证唯一性。令 ,故有。左边为下三角阵,右边为上三角阵,故等于对角阵。又因 ,故 。21给出按行计算 Cholesky 因子 L 的详细算法。解 略。22利用改进的平方根法设计一种计算正定对称矩阵的逆的算法。解 算法可分为以下几个步骤:(1)首先利用算法 132 计算出正定矩阵的如下分解其中,L 是单位下三角阵,D
14、是对角阵。(2)求解矩阵方程其解矩阵 .(3)求解矩阵方程其解矩阵(4)求解矩阵方程其解矩阵注意 以上(2)、(3)、(4)步都是求解非常简单的方程组,算法实现起来很容易。23设用平方根法证明 A 是正定的,并给出方程组 的解。解 由 Colicky 分解可得其中14显然,L 是非奇异矩阵。因此,对 .于是所以 是正定的。由方程组 ,解得 ,再由方程组 ,解得24设 是一个正定 Hermite 矩阵,其中证明:矩阵是正定对称的。试给出一种仅用实数运算的算法来求解线性方程组解 既然 是正定的,又对 ,有,且 .且注意到显然 H 正等价于 A、B 正定。对 ,则有由前面的讨论,知道若 H 是正定的
15、,则 A 是正定的,故矩阵 C 是正定的。由于于是求解原复数方程组,等价于求解下列实方程组其矩阵形式为:由(1)得知系数矩阵正定,故该方程可采用平方根算法求解。15习题 22.1 设 是 个正数。证明:由定义的函数 是一个范数。证明 只需验证 满足定义 2.1.1 的三个条件。其中(1 )和(2),即正定性和齐次性显然成立,下面给出(3)三角不等式的证明。像 2 范数的证明一样,要证明三角不等式,需要用到 Cauchy-Schwartz 不等式欲证明这个不等式,只需证明:对任意的 ,有下列等式成立用数学归纳法证明。当 时,等式显然成立。不妨归纳假设当时,等式仍然成立,即有(E2.1)现在来考虑
16、 时的情形,注意到16至此,我们便证明了前述等式。亦即证明了 Cauchy-Schwartz 不等式。又因为 是 个正数,因此有从而对 ,我们有2.2 证明:当且仅当 和 线性相关且 时,才有.证明 因为对任意的17于是,当且仅当由等式(E2.1)可知, 当且仅当,即,对任意的 ,此式成立不外乎二种情形:或 ;或 ;或 .即 和 线性相关。2.3 证明:如果 是按列分块的,那么证明 因为.2.4 证明:证明 记 ,那么,根据第 3 题的结果我们有根据 Frobenius 范数定义易知,对. 于是2.5 设 是由定义的。证明 是矩阵范数,并且举例说明 不满足矩阵范数的相容性。证明 (1)证明 是
17、矩阵范数。因为18显然 满足矩阵范数定义中的前三条:正定性、齐次性、三角不等式。下面我们证明 还满足“相容性”。对任意 ,记 ,且则 , ,且(2)一个 不满足矩阵范数的相容性的例子。取 ,则 。于是 ,从而2.6 证明:在 上,当且仅当 是正定矩阵时,函数是一个向量范数。证明 由于 A 是正定矩阵,不妨设 是 A 的特征值, 是其对应的标准正交特征向量,即显然, 是线性无关的。因此, =span . 记 , ,那么,且对任意 ,总有 使.命题的充分性是很显然的。因为 是 上的向量范数,则由其正定性可知 A 必为正定矩阵。现在我们来证明命题的必要性。即假设 是正定矩阵,则函数满足向量范数定义的
18、三条性质:正定性。由 A 的正定性,正定性显然成立。齐次性。对任意的 ,因为,故有 .19三角不等式。对于任意给定的 ,有 ,使应用习题 2.1 的结果,得即有2.7 设 是 上的一个向量范数,并且设 . 证明:若,则 是 上的一个向量范数。证明 当 时, 当且仅当 是 上的零向量。再由假设 是 上的一个向量范数,于是可证得 满足:正定性。事实上,对任意 , ,而且当且仅当 .齐次性。事实上,对所有的 和 有,因此 .三角不等式。事实上,对所有的 有,因此有2.8 若 且 ,证明.证明 首先用反证法,证明 的存在性。设 奇异,则有非零解 ,且 ,于是 ,从而 . 这与假设矛盾。20现在来证明命
19、题中的不等式。注意到: ,且故有即2.9 设|.|是由向量范数|.|诱导出的矩阵范数。证明:若 非奇nAR异,则 1minxA证明 因为|.|是向量范数诱导的矩阵范数,故|I|=1,且对和 ,有 于是对 ,有GnRnx|Gnx11| A且当|x|=1 时,有(E2.2)1Ax现在只需证明:存在 且|x|=1,使 即可。根据nR1x算子范数的定义,我们不妨假设 且|y|=1,使 . 再取y1Ay,显然|x|=1 ,且(E2.3)综合(E2.2) 和(E2.3)得2.10 设 是 的 LU 分解。这里 ,设 和分别表示 和 的第 行,验证等式并用它证明解 记21于是注意到: . 则有现在来证明 因
20、为2.11 设()计算 ;()选择 ,使得而且 很小,但 却很大;(3)选择 ,使得而且 很小,但 却很大。解 (1)显然从而, 于是22选取: ,则可计算得选取: ,则可计算得.2.12 证明对任意的矩阵范数都有 ,并由此导出证明 由定理 2.1.6(1)可知,对任意矩阵范数都有 ,而 ,于是,从而.2.13 若 和 都是非奇异的,证明.证明 因为所以,根据矩阵范数的相容性可得.2.14 估计连乘 中 的上界.解 假定 那么则由定理 2.3.3,若假定 ,则,23从而.2.15 证明:若 ,则其中证明 由定理 23.2 得以此类推,我们有其中: 令 ,那么再由定理 2.3.3 知2.16 设
21、 ,而且 证明:其中 的元素满足证明 因为由例 2.3.1 的结果我们可以得到其中24再由定理 2.3.3 得令 ,则注意到从而得到其中 .2.17 证明:若 是 维向量,则 ,其中证明 由定理 2.3.2 可知,对一切 ,有下面对 用数学归纳法证明。当 =1 时,命题显然成立。假设当 时,命题仍然成立,即有那么当 时,我们有,其中, 于是 25,从而由介值定理显然存在 ,使即当 时,命题亦成立。习题 3设用正则化方法求对应的问题的解解由定理.1.4 可知, 问题的解就是下列正则化方程组解:即解得:设求对应的问题的全部解解由定理.1.4 可知, 问题的解就是下列正则化方程组解:26经初等行变换
22、得其同解方程组从而即,其中设 ,求一个 Householder 变换 和一个正数使得解 由于 2 范数具有正交不变性, 故 . 于是于是 ,令那么, 可以验证满足该题的要求.4确定 和 使得解由范数具有正交不变性,故27于是从而假定 是一个二维复向量,给出一种算法计算一个如下形式的酉矩阵使得 的第二个分量为零解对于复向量 的范数定义如下:显然,在复数空间中,2 范数仍然保持着正交不变性。即对酉矩阵 Q有根据题意,不妨设 ,从而注意到于是由 ,从而不妨设 ,即28,又因 ,所以.6假定 和 是 中的两个单位向量,给出一种使用 Givens 变换的算法,计算一个正交阵 ,使得解 首先考虑对指定的一
23、个二维非零向量 和一个实数,如何构造 Givens 变换使 。注意 2 范数的正交不变性,则(这里我们假定了 ,稍后对此加以处理)那么,G 应满足即注意 ,则矩阵于是这样,我们便可考虑从 的前两个分量 开始,施以 Givens变换,便其第一个分量变换为 . 然后对 施以 Givens 变换,使其29首分量变换为 ;这样一直继续 次变换,最后使得 变换为几点说明: 为使算法能一步步正常进行,需要首先对单位向量 用一组Givens 变换进行规范化处理,使其成为标准单位向量 .这样在接下来的步的 Givens 变换中就能保证 . 在规范化 后,对其实施正交变换的每一步中,可以通过逐次计算向量 的范数
24、,当其等于 1 时,即可结束算法。因为此时, 和 的剩余分量均以为零。算法总结:算法 1(用 Givens 变换求正交矩阵 使单位向量 满足:)void standard(double *g,double *x,int n)int i,j;for(i=0;i=0;i-)if(xi+1=0)continue;else if(fabs(xi+1)fabs(xi)t=xi/xi+1;s=1.0/sqrt(1.0+t*t);c=s*t;elset=xi+1/xi;c=1.0/sqrt(1.0+t*t);s=c*t;xi=c*xi+s*xi+1;xi+1=0;for(j=0;jn;j+)a=gij;b=
25、gi+1j;gij=c*a+s*b;gi+1j=c*b-s*a;30算法 2(计算 Givens 变换, ,其中 已知)void GetCS(double *g,double *x,double y)double a;a=sqrt(x0*x0+x1*x1-y*y);if(a=0)g0=1;g1=0;elseg0=(x0*y+a*x1)/(x0*x0+x1*x1);g1=(x1*y-a*x0)/(x0*x0+x1*x1);x0=y;x1=a;算法 3(使用 Givens 变换,求正交矩阵 G 使单位向量 满足:)void XtoY(double *g,double *x,double *y,int n)standard(g,x,n);double c,s,t;double cs2;t=0.0;for(int i=0;in-1;i+)GetCS(cs,x+i,yi);for(int j=0;jn;j+)c=gij;s=gi+1j;gij=cs0*c+cs1*s; gi+1j=cs0*s-cs1*c;t+=yi*yi;if(t=1)break;7设 是 中的两个非零向量,给出一种算法来确定一个householder 矩阵 ,使 ,其中解 (1)当 线性相关时, .(2)当 线性无关时,令: ,则