1、矩阵操作,基本概念,矩阵的定义 Mm*n(R) 方阵 矩阵的转置行/列向量 向量的定义,基本概念,特殊矩阵(方阵) 对角矩阵 非主对角元全为0 记为diag(a11,a22,ann) 三对角矩阵 若|i - j| 1, 则aij=0 上/下三角矩阵 若i j , 则aij=0(上三角) 对称(反对称)矩阵 A = AT A = - AT 排列矩阵 零矩阵,单位矩阵,数乘矩阵,初等变换矩阵,矩阵运算,加法(减法) A+B , A-B=A+(-B) 结合律 , 交换律 数乘 kA 结合律 , 对于加法的分配律(线性映射) 矩阵乘法交换律? 结合律? Example,矩阵的作用,线性映射( 线性函数
2、 f ) Fibnacci递推 坐标旋转变换 二次曲线 二次一般方程: 二元关系 图论应用 Floyd 关联矩阵 求解方程组,矩阵应用例(UVa?),问题描述 已知P = a + b , Q = a * b 求an + bn P , Q , n均为整数Sample P = 3 , Q = 2 , n = 3 an + bn = 9,矩阵应用例(UVa?),P = a + b Q = a * b = (P b) * b = - b2 + P * b b2 P * b + Q = 0So b = ( P + Sqrt(P * P 4 * Q) ) / 2 a = ( P Sqrt(P * P 4
3、* Q) ) / 2Done?,矩阵应用例(UVa?),But if P = 1 , Q = 10 ?an+bn = (a+b)*(an-1+bn-1) (a*bn-1+b*an-1)= P * (an-1+bn-1) - Q * (an-2+bn-2)设Fn= an+bn,则Fn = P * Fn-1 Q * Fn-2,矩阵应用例Sgu196,考虑包含N个点M条边的无向图G=(V,E) 关联矩阵An*m=(aij)n*m 如果顶点i是第j条边的一个端点, 则aij = 1 否则 aij = 0求矩阵A*AT的元素和 拓展: 求矩阵AT*A的元素和,矩阵应用例Sgu196,求ATA 将A行分块
4、为(x1,x2xn)T 则(cij)n*n=ATA 满足 cij 为xi与xj的标准内积i = j cij为2 i != j cij为边i与边j的公共点个数 = 1 (边i与边j交于某一点) = 0 (否则),矩阵应用例Sgu196,求AAT 将A行分块为(x1,x2xn)T 则(cij)n*n=AAT 满足 cij 为xi与xj的标准内积i = j cij为点i的度数 i != j cij为点i与点j之间的边数More?,矩阵应用高斯消元法,求解线性方程组 Example: 矩阵表示: Ax = b A : 系数矩阵 x : 未知数向量 (A,b): 增广矩阵,矩阵应用高斯消元法,消元过程
5、通过三种操作, 将方程组化为形式更简单的同解方程组; 即将增广矩阵(A,b)化为阶梯形矩阵(上三角矩阵). 将某一行乘以一个非零常数 将某一行乘以一个非零常数后加到另一行 交换两行多解? 无解? 缺乏理性认识,矩阵的逆(乘法逆运算),方阵 : Mn(R) 单位矩阵: En = diag(1,1,11) A Mm*n(R), 则EmA = AEn = A An*n的逆A-1 满足AB=BA=E, 则A可逆, B称为A的逆,记为A-1矩阵的逆唯一, Why? 性质: 可逆矩阵的乘积仍可逆数乘 性质 , (AB)-1 = B-1A-1,矩阵乘法,朴素乘法 复杂度: O(n*m*t)Strassen算
6、法(求两个n*n的矩阵的乘积) O(nLog7) 分治思想,矩阵乘法的Strassen算法,令n为2的幂(补0即可). 将A,B,C都分块为4个n/2 * n/2的矩阵,矩阵乘法的Strassen算法,复杂度: 上述计算方法,共有8次递归调用与4次加法 So,Then,矩阵乘法的Strassen算法,令,矩阵乘法的Strassen算法,复杂度: 上述计算方法,共有7次递归调用与18次加法 So,Then,矩阵乘法的Strassen算法,复杂度优, 但是常数巨大Coppersmith-Winograds算法: O(nLog5) 常数更大,矩阵的初等变换,使用高斯消元求解线性方程组时, 我们对增广
7、矩阵所作的是3种行初等运算: 1)将矩阵的某一行乘以一个非零常数c 2)将矩阵的某一行乘以一个非零常数c加到另一行 3)交换矩阵中的某两行这三种初等运算统称为矩阵的行初等变换 (1)称为倍乘行变换 (2)称为倍加行变换 (3)成为对换行变换 相应的, 我们还可以定义初等列变换,矩阵的初等变换,定义初等矩阵: 将单位矩阵E作一次初等变换(行/列)所得到的矩阵 与三种初等行/列变换所对应的初等矩阵为: 将E第i行(或列)乘c , 得到初等倍乘矩阵Ei(c) 将E第i行乘以c加到第j行 , 或将第j列乘以c加到第i列,得到初等倍加矩阵Eij(c) 将E的第i , j行(或列)交换 , 得到初等对换矩
8、阵Eij,矩阵的初等变换,Example,矩阵的初等变换,初等矩阵的性质: 将矩阵A左乘初等矩阵, 等同作相应的行初等变换 将矩阵A右乘初等矩阵, 等同作相应的列初等变换初等矩阵都是可逆矩阵,矩阵的初等变换,定理对于一个可逆矩阵A, 可以作若干次初等行变换将其化为单位矩阵E, 即存在初等矩阵P1,P2Pk,使得Pk.P2P1A = E 证明 ?推论A 可逆矩阵A可以表示为若干个初等矩阵的乘积 推论B (A,E) (E,A-1) 一个求逆的算法,矩阵求逆的初等变换法,算法步骤(由推论B) 将矩阵(A , E)进行行初等变换 当A变成E时, E就变成了A-1 O(n3) Example :矩阵求逆
9、的朴素算法: 高斯消元, O(n4),基本概念,线性空间 V(R)是一个向量集合, 称为实数域上的一个线性空间, 如果满足: 对于任意向量a,bV(R), 任意k1,k2R有k1a+k2b V(R) 性质: 运算封闭 线性性质线性相关性V(R)中的一组向量x1,x2xn, 若存在不全为零的数k1,k2.kn, 使k1x1+k2x2+knxn = 0 则称x1,x2xn线性相关. 否则称其线性无关.,基本概念,线性表示若向量x= k1x1+k2x2+knxn, 则称向量x可由x1,x2xn线性表示.定理 V(R)中的一组向量x1,x2xn线性相关的充要条件是x1,x2xn中有一个向量可用其他向量
10、线性表示. 证明定理* 若向量组x1,x2xn线性无关, 而x1,x2xn,y线性相关, 则y可由x1,x2xn线性表示且表示法唯一. 证明,基本概念,线性空间的基与维数 V(R)中的一组向量x1,x2xn线性无关, 且V(R)中的任意向量都可由x1,x2xn线性表示. 则称x1,x2xn是V(R)的一组基, n称为V(R)的维数,记为dimV(R).向量组的秩S是V(R)的一个子集,若S的一个子集B = x1,x2xk线性无关,且S中任意向量都可由B线性表示,则称B为其极大线性无关组,k称为S的秩,记为r(S)向量组张成的空间向量组S= x1,x2xk张成的空间L(S)为S中向量所有线性组合
11、的集合.,基本概念,等价向量组向量组A=x1,x2xs, B=y1,y2yt称为等价, 若A中任意向量可由B线性表示且B中任意向量可由A线性表示.引理向量组A=x1,x2xs线性无关, B=y1,y2yt且ts. 如果B中每一个向量都可由A线性表示, 则B线性相关.定理等价向量组必有相同的秩.推论初等变换不改变矩阵的秩(后面的定理),基本概念,标准内积n维空间V(R)中的两个向量x,y : x=(a1,a2an),y=(b1,b2bn), 定义其标准内积(x,y)=a1b1+a2b2+anbn 正交(垂直)向量 称V(R)中的两个向量x,y正交, 如果(x,y)=0. 记为x y单位正交基设B
12、=e1,e2en是n维空间V(R)的一个子集, 称为V(R)的一组单位正交基, 如果:为什么e1,e2en线性无关?自然基e1.en,基本概念,子空间W称为V的一个子空间,如果W是一个线性空间, 且是V的一个子集.子空间的正交设W1和W2都是V的子空间, 如果对于任意向量xW1,yW2均有x y, 则称W1与W2正交, 记为W1 W2.,Schmidt正交化,定理 V(R)必有单位正交基. 证明 构造,矩阵的秩,矩阵的秩,列秩,行秩 对于矩阵Am*n 列秩: n个列向量的秩 行秩: m个行向量的秩 矩阵的秩: 定义为矩阵的列秩, 记为r(A)定理初等变换不改变矩阵的秩 定理(弱)初等行(列)变
13、换不改变矩阵的行(列)秩定理 Am*n的列秩 = A的行秩 证明,行列式,行列式的起源 二元一次方程组,行列式,行列式,行列式的公理化定义 实数域R上的一个n阶行列式是取值于n个n维列向量x1,x2xn的一个函数,而且对于任意xi,yi,k满足: D(x1,kxi,xn) = kD(x1,xi,xn) D(x1,xi+yi,xn) = D(x1,xi,xn) + D(x1,yi,xn) D(x1,xi,xj,xn) = - D(x1,xj,xi,xn) D(e1,en) = 1 (e1,en为Rn的自然基)记为Det(A) 或 |A|,行列式的计算,性质一如果有一列为0,则行列式为0 性质二如
14、果有两列相同,则行列式为0 性质三如果有两列对应成比例,则行列式为0 性质四倍加列变换不改变行列式的值 性质五若x1,x2xn线性相关, 则行列式为0 性质六 |AT| = |A| 上述性质对于行也成立 性质七上三角(下三角)矩阵的行列式等于其主对角元元素乘积 证明 性质一 性质七,行列式计算(Ex.),Laplace展开定理,代数余子式在n阶行列式D=|aij|n*n中,去掉元素aij所在的第i行与第j列得到的n-1阶行列式,称为元素aij的余子式,记为Mij.并把数Aij = (-1)i+jMij称为其代数余子式.展开定理n阶行列式D =|aij|n*n等于它的任意一行(或列)的所有元素与
15、它们的代数余子式的乘积之和:,方阵乘积的行列式,定理A,B均为n阶方阵. 则|AB| = |A| * |B| 证明定理n阶方阵A可逆的充要条件是|A|0 证明 1 = |E| = |A|*|A-1| 构造伴随矩阵A*,行列式秩,子式n阶矩阵An*n,我们顺序选择任意的k行与k列,并选择这k行与k列交点的k2个元素得到一个k阶矩阵B. 则称det(B)为det(A)的一个k阶子式.矩阵的行列式秩若A存在一个k阶子式非零, 且所有的k+1阶子式均为0. 则称A的行列式秩为k. 记为rdet(A).定理 对于n阶矩阵A, r(A) = rdet(A) 证明,Cramer法则,Cramer法则线性方程
16、组AX=b, 若系数行列式D=|A|0,则方程组解唯一且其中Dj是将系数矩阵第j列用b替换得到的行列式,再谈线性方程组,定理若齐次线性方程组AX=0,系数矩阵r(A)=r, 则其解空间N(A)是一个n-r 维的子空间. 证明(略)基础解系齐次线性方程组AX=0解空间N(A)的基 求解方法,再谈线性方程组,非齐次线性方程组对于非齐次线性方程组AX=b,下列命题等价: 1)AX=b有解 2)b可被A的列向量线性表示 3)r(A)=r(A,b)推论AX=b有唯一解的充要条件为:r(A)=r(A,b)=A的列数,再谈线性方程组,非齐次线性方程组的求法 特解+通解无解与多解,特征值与特征向量,定义设矩阵
17、A是n阶矩阵,如果存在数及非零向量X,使得AX= X 则称是A的一个特征值, X是A属于特征值的特征向量.AX= X (E-A)X = 0 , 又X是非零向量 (E-A)X = 0 有非零解 r(E-A) n det(E-A) = 0矩阵A的特征多项式 f () = det(E A),特征值与特征向量,特征子空间 矩阵A的特征值所对应的特征子空间为所有属于的特征向量集合与0的并.特征值与特征子空间的求法 求特征值: 特征多项式 det(E A) = 0 求特征子空间(求一组基):对于特定的, 求(E A)X = 0的基础解系,对角化及其条件,矩阵的对角化对于n阶矩阵A, 如果存在n阶可逆矩阵P
18、使得P-1AP=diag(1, n), 则称A可对角化, 称P为A的对角变换矩阵.矩阵可对角化的条件 不妨假设A可以对角化, 则即设P = (X1,X2,Xn) (列分块) , 则,对角化及其条件,则有 AXi = iXi (i = 1,2,n)故: X1, X2 Xn是A的n个线性无关的特征向量.,对角化及其条件,矩阵对角化的条件n阶矩阵A可对角化的充要条件是A有n个线性无关的特征向量.定理属于不同特征值的特征向量线性无关. 证明上述两个定理的推论若n阶矩阵A有n个不同的特征值, 则必可对角化.,特征值与行列式的关系,推论 tr(A) = 所有特征值之和 det(A) = 所有特征值之积证明
19、,正交矩阵,正交矩阵n阶矩阵A称为正交矩阵, 如果ATA=E正交矩阵的性质 1) A的列向量组为Rn的一组单位正交基 2) A-1=AT, 且AT也是正交矩阵. 3) det(A) = 1 或 -1 4) 若A,B都是正交矩阵, 则AB也是正交矩阵. 定理若A的列向量组为Rn的一组单位正交基, 则A是正交阵.,实对称矩阵的对角化,定理实对称矩阵必可对角化. 这里, 我们将其作为一个基本假定定理实对称矩阵A属于不同特征值的特征向量是正交的. 证明 (使用内积的矩阵表示方法)推论若A是一个n阶实对称矩阵, 则存在n阶正交矩阵Q使得Q-1AQ=diag(1, n) 归纳证明 或者 直接构造,对角化的应用,加速矩阵乘法 考虑求实对称矩阵A的k次幂. Q-1AQ = (1, n) (Q正交) A = Q (1, n) Q-1 Ak = (Q (1, n) Q-1)k = Q (1, n)k Q-1 = Q (1k , nk) Q-1在二次函数中的应用,特征值与特征向量的算法,计算方法,Thank You!,
