矩阵分析第5章.ppt_三一文库31doc.com

资源描述

《矩阵分析第5章.ppt》由会员分享，可在线阅读，更多相关《矩阵分析第5章.ppt（67页珍藏版）》请在三一文库上搜索。

1、2021/2/11,第五章范数,序列,级数前言,向量与矩阵范数是向量与矩阵的一个重要数字特征-用它可以建立向量集或矩阵集的拓扑结构,从而便于研究向量或矩阵序列,向量或矩阵级数的收敛性质.因此,这一章的理论在数值分析及其它领域中十分有用. 本章是本课程重点内容之一.所有5节都要认真学好.最后一节(矩阵幂级数)是研究矩阵函数的重要工具.,2021/2/11,5.1 向量范数,向量范数是酉空间向量长度的推广.特别 xV=Cn,的标准长度: x=(x,x)=(|x1|2+|xn|2)1/2 满足 xV,x0; x= 0 x=0 (非负性) xV,kC,kx=|k|x (齐次性) x,yV,x+yx

2、+y(三角不等式) 定义5.1.1:数域F上线性空间V称为赋范空间,如果存在映射 :VR 满足上述三条公理.x称为x的范数.,2021/2/11,几点注记,向量范数的概念不仅限于酉空间,即:酉空间是赋范空间,但存在不是酉空间的赋范空间. 同一酉空间可能除标准内积定义的(标准)范数之外还有别的范数.例如,在Cn中可定义下列范数: xCn,x= max|x1|,|xn|. (它显然满足非负公理; kx= max|kx1|,|kxn| |kxi|=|k|xi| =|k|max|x1|,|xn|=|kx; x+y= max|x1+y1|,|xn+yn| max|x1|+|y1|,|xn|+|yn| m

3、ax|x1|,|xn|+max|y1|,|yn| =x+y,2021/2/11,范数初等性质（由定义推出）,-x=|-1|x=x. x,yV,xy|x-y|. 证：首先x=(x-y)+yx-y+y x-yx-y. 其次x-y=-(y-x)=y-x y-x= -(x-y) x-y|x-y|. 此外 x+y=x-(-y) |x-y|=|x-y| xy|x-y|.,2021/2/11,Holder不等式与Minkowski不等式,下面两个不等式对本章的理论推导十分有用 Holder不等式:对任意给定p1和q=p/(p-1) (1,即(1/p)+(1/q)=1)及任意ak,bk0成立 k=1nakbk

4、 (k=1nakp)1/p(k=1nbkq)1/q. (C-S不等式为其(p=2时)特例) p,q次算术根 Minkowski不等式:对任意给定p1成立 (k=1n|ak+bk|p)1/p (k=1n|ak|p)1/p+(k=1n|bk|p)1/p 此2不等式证明见教本,2021/2/11,不等式(5.1.2)的证明,设p1,q=p/(p-1)1.对任意u,v0有 uvup/p+vq/q (5.1.2) 证:只须证对任意u0,函数 f(v)=up/p+vq/q-uv 在定义域D=v0内的最小值等于0即可. (u=0或v=0时,(5.1.2)显然成立). 事实上,因f(v)=vq-1-u=0在定

5、义域D内有唯一零点:v=u1/(q-1)0,并且f(v)=(q-1)vq-20(当v0),故 f(u1/(q-1)=up/p+uq/(q-1)/q-uu1/(q-1)=0 是在D中的最小值.证毕. (uq/(q-1)/q-uu1/(q-1)=up(1/q-1)=-up/p) (q-1)/q=1-1/q=1/p; 1+1/(q-1)=q/(q-1)=p,2021/2/11,Horder不等式(5.1.1)的证明,uvup/p+vq/q (5.1.2) 证:在(5.1.2)中,令u=ak/a;v=bk/b,其中则,2021/2/11,p-范数及其性质,定义5.1.2：对复n维线性空间Cn,对任意

6、给定 p1,x=(x1,xn)Cn,令 xp=(i=1n|xi|p)1/p p次算术根则xp是向量范数,称为x的p-范数. 证:非负性显然成立; kxp=(i=1n|kxi|p)1/p =(i=1n|k|p|xi|p)1/p =|k|(i=1n|xi|p)1/p =|k|xp x+yp=(i=1n|xi+yi|p)1/p (i=1n|xi|p)1/p+(i=1n|yi|p)1/p =xp+yp Minkowski不等式注:有无穷多个p-范数,最常用的是下列三个: 2-范数x2=(i=1n|xi|2)1/2(欧氏范数);1-范数 x1=i=1n|xi|和-范数x=max|x1|,|xn|.,

7、2021/2/11,-范数性质-定理5.1.1,定理5.1.1：x=limpxp (5.1.8) (此式说明记号中用的合理性) 证:当x=0时,p1,xp= 0 =x 故结论成立.当x0时,令 x=max|x1|,|xn|=|xk|0; y=(1/|xk|)x. 则y=1,且maxi|yi|=|yk|=1. 于是对任意 p1有 1=|yk|(i=1n|yi|p)1/p =yp n1/p (*) limpn1/p=n0=1 在(*)式中令 p取极限得1=limpyp =limpxp/x由此得证明所需的等式.,2021/2/11,1=|yk|(i=1n|yi|p)1/p =yp n1/p (*)

8、(i|yi|=|xi|/|xk|1) 1=limp1limpyp limpn1/p=n0=1 1=limpyp=limpxp/x x=limpxp,2021/2/11,同一向量的三种范数之间的大小关系,例：取n维线性空间的分量全为1的向量e=(1,1)T为例. 易见 e=1; e2=n; e1=n. 它们之间的大小关系是: ee2e1. 命题:对n维线性空间的任意向量x成立 x x2 x1 nx nx2 nx1 n2x 证:x= max|x1|,|xn| (i=1n|xi|2)1/2 = x2 (|x1|+|xn|)2)1/2 = x1 n max|x1|,|xn| = nx,2021/2/1

9、1,向量范数的等价,定义：赋范空间V的两个不同的向量范数, 称为是互相等价的,如果存在正常数c,d 使 xV, cxxdx 定理5.1.2:赋范空间V的任意两个向量范数,都是等价的,即存在正数 c,d使 xV,cxx dx 例：对于V=Cn中的三个常用范数有: x x2 nx c=1;d=n x x1 nx c=1;d=n x2 x1 nx2 c=1;d=n (1/n)x2 x x2 c=1/n;d=1,2021/2/11,按范数收敛,定义:赋范空间V的序列x(n)|n=1,2,按范数收敛于aV,如果 limnx(n)-a=0 命题:对赋范空间V的任意两个等价向量范数, , 都有 limnx(

10、n)-a=0 limnx(n)-a=0 (即按任意两个向量范数的收敛实质上等价) 因 0 limnx(n)-a d limnx(n)-a 0 limnx(n)-a(1/c)limnx(n)-a,2021/2/11,在2维平面上 x2=r 为半径r的红圆周 x=r 为边长2r的黑正方形,因此，在2维平面上按2收敛即沿同心圆收缩于一点与按收敛即沿同心坐标正方形收缩于一点的过程本质是一样的注:按1收敛意味沿对角线平行于坐标轴的同心正方形收缩于一点.,2021/2/11,5.2 矩阵范数,定义5.2.1:映射 : CmnR 称为一个矩阵范数,如果对任意A,BCmn,kC满足下列4条公理: A0;A=

11、 0 A=0 (非负性) kA=|k|A (齐次性) A+BA+B (三角不等式) ABAB (相容性),2021/2/11,关于矩阵范数的注,如果把矩阵范数与向量范数进行比较的话,前者比后者多一条相容性条件,这是基于矩阵乘法的特殊重要性而要求的. 因矩阵空间Cmn也是向量空间,即mn矩阵A可以看做是Cmn的向量,故现在也流行把满足,和的映射称为矩阵的向量范数.但我们只限于矩阵的矩阵范数. 我们将给出同时满足定义5.2.1中四个条件的矩阵范数的例子.这里先给出矩阵的向量范数不是矩阵范数的一个例子.对ACmn定义A= maxi,k|aik|,则A显然是向量范数(向量的无穷大范数),但它不是矩阵范

12、数,反例如下:,2021/2/11,ACmn 定义 A= maxi,k|aik| 则A显然是向量范数(向量的无穷大范数),但它不是矩阵范数,反例如下:,2021/2/11,矩阵范数的例子,例5.2.1:定义矩阵范数为A=i=1mj=1n|aij|,不难证明矩阵范数的4条公理全部满足.因非负性和齐次性是显然的;的证明见课本(ACmn的向量1-范数蕴含前3条公理).我们只说明的证明. (ACmp,BCpn) AB= i=1mj=1n|k=1paikbkj| (矩阵乘法公式) i=1mj=1nk=1p|aik|bkj| (C中三角不等式) i=1mj=1n(k=1p|aik|)(k=1p|bkj|)

13、 = (i=1mk=1p|aik|)( j=1nk=1p|bkj|) =AB,2021/2/11,Frobenius 矩阵范数,例5.2.2:矩阵的Frobenius范数定义为 AF=(i=1mj=1n|aij|2)1/2. (ACmn的向量2-范数蕴含前3条公理)不难证明4条范数公理全部满足.因非负性和齐次性是显然的;的证明见课本.我们只讲的证明. ABF2=i=1mj=1n|k=1paikbkj|2 i=1mj=1n(k=1p|aik|2)(k=1p|bkj|2)(C-S不等式) = (i=1mk=1p|aik|2)( j=1nk=1p|bkj|2) =AF2BF2,2021/2/11,F

14、robenius范数与向量2-范数相容,定义5.3.1:Cmn中的矩阵范数M称为与Cn中的向量范数v相容,如果 ACmn,xCn,Axv AMxv 例5.3.1: Frobenius范数与向量2-范数相容证: ACmn,xCn, Ax22 =i=1m|j=1naijxj|2 i=1m(j=1n|aij|2)(j=1n|xj|2)(C-S不等式) =(i=1mj=1n|aij|2)(j=1n|xj|2) =AF2x22,2021/2/11,Frobenius 矩阵范数性质,矩阵的Frobenius范数有以下性质(定理5.2.1): A=(1,n),(j为A的第j列) AF2 =j=1n(i=1

15、m|aij|2)= j=1nj22. AF2 =tr(A*A)= i=1ni(A*A), i(A*A)表示A*A的第i个特征值.(将A*A换成AA*亦成立) Frobenius范数是酉等价不变的: UUmm,VUnn,UAVF=AF 证明见后,2021/2/11, Frobenius范数是酉等价不变的: UUmm,VUnn,UAVF=AF 证:UAF2 =(U1,Un)F2 (j为A第j列) =j=1nUj22 (酉变换保长度) =j=1nj22 =AF2 AVF=(AV)TF =VTATF =ATF=AF UAVF =U(AV)F =AVF =AF,2021/2/11,矩阵范数的等价性,定理

16、5.2.2: Cmn中的任意两个矩阵范数 ,都是等价的,即存在正常数c,d使 ACmn,cAA dA 命题:对Cmn中的任意矩阵范数,都有正数d使 ACmn,xCn,Ax2 dAx2 证: 由定理5.2.2知:有正数d使 AF dA 再由Frobenius范数与向量2-范数相容性推出:ACmn,xCn, Ax2 AFx2 dAx2 注:此不等式说明:在相差正常数因子条件下, 任何矩阵范数都与向量2-范数相容.,2021/2/11,5.3 由向量范数诱导矩阵范数,定理5.3.1:已知 Cn 的一个向量范数,对任意ACmn,令 Ai= (y=x/x),则矩阵范数i存在且与此向量范数相容,称它为由

17、诱导的矩阵范数. 证:非负(A0某x0使Ax0,Ai0),齐次性显然;三角不等式见教本(有小错).相容性: ABi= = =AiBi,x0并且M与v是相容的. 证: xCm,xa*Cmn,xv=xa*M 显然满足非负及齐次性公理; x+yv=(x+y)a*M=xa*+ya*M xa*M+ya*M =xv+yv. v称为由矩阵范数M诱导的向量范数. 相容性: xCm,ACnm,Axv=Axa*M AMxa*M=AMxv,2021/2/11,定理5.3.3:由Cnm中已知的矩阵范数M及任意非零向量 aCm定义Cm中向量范数: xv=xa*M, 则xv满足向量范数的非负性公理. 证: xCm, xv

18、=xa*M 显然. 若 xCm,xv=xa*M = 则 (因a0a*a0) xa* = xa*a = x=0,2021/2/11,定义5.3.3:由方阵A的特征值的最大模数称为的谱半径,常记为(A).,2021/2/11,方阵的任何矩阵范数都比其谱半径大,定理5.3.4: ACnn,(A)A,是A的任一矩阵范数. 证: 由定理5.3.3知:存在向量范数,使yCn,AyAy (*) 令 (A)=|k|,Ax =k x,0 xCn,则x0,且 (A)x=kx=AxAx 从上式消去正的公因子x即得 (A)A.,2021/2/11,正规矩阵的谱范数等于其谱半径,定理5.3.5: ACnn,A*A=AA

19、* A2=(A). 证: A2=(max(A*A)1/2. 由p.192的定理4.3.2知:正规矩阵的奇异值是其特征值的模数,故(max(A*A)1/2=(A),从而得证A2=(A). 注:定理5.3.5说明定理5.3.4中关于矩阵范数的下界(A)可以达到(例如,对于正规矩阵此下界是矩阵的谱范数).,2021/2/11,命题单位矩阵E的任意诱导矩阵范数都等于1. 证: Ei= 注:其它范数不一定有此性质,例如: EF=n 1,当n1,2021/2/11,矩阵范数小于1的方阵,定理5.3.6: ACnn,对任意诱导矩阵范数,若A1,则EA是可逆的,并且满足 1/(1+A) (EA)-1 1/(

20、1-A). 证: 因EA的特征值是A的特征值加1,并且A的特征值模数小于1,故EA的特征值一定全不为0,从而其行列式不为0,故是可逆的. 易见(EA)-1=(EA)-(A)(EA)-1=E-(A)(EA)-1 (EA)-1=E-(A)(EA)-1 E+A(EA)-1 1+A(EA)-1 (EA)-1 1/(1-A). 1=E=(EA)-1(EA) (EA)-1EA (EA)-1(1+A) 1/(1+A) (EA)-1.,2021/2/11,5.4 矩阵序列与极限,复数序列的极限:a(k)=a(1),a(2),a(3), 收敛于aC,记为limka(k)=a,如果0,存在正整数N使kN,|a(k

21、)-a|. 复平面上点列收敛性质:(设等式右边极限存在,u,v为任意常数) 极限存在必唯一; limk(ua(k)+vb(k)=ulimka(k)+vlimkb(k); 线性组合 limk(a(k)b(k)=limka(k)limkb(k); 乘积 a(k)0 A=(aij). 例1 Vk=(1,1/k)|k=1,2, limkVk=(1,limk(1/k)=(1,0). 例2 Ak= limkAk=,2021/2/11,矩阵(包括向量)序列极限性质,设极限limkAk=A,limkBk=B存在,u,v为任意常数矩阵序列的极限若存在必唯一; limk(uAk+vBk)=ulimkAk+vl

22、imkBk; 线性组合 limk(AkBk)=limkAklimkBk; 乘积设k,Ak可逆和limkAk可逆,则Ak-1收敛且 limkAk-1=(limkAk)-1 逆元注:中要求:k,AkBk有意义.若P,Q为任意常矩阵使乘积PAkQ有意义,则由推出 limk(PAkQ)=limkPlimkAklimkQ=PAQ,2021/2/11,矩阵序列极限性质的证明, 设Ak可逆和A=limkAk可逆,则Ak-1收敛且 limkAk-1=(limkAk)-1 证:由线性代数知: 方阵A可逆detA0 limkadj(Ak)=adj(limkAk)=adj(A). limkAk-1=limk(1

23、/detAk)adj(Ak) =(1/detA)adj(A)=A-1=(limkAk)-1,2021/2/11,矩阵序列按范数收敛的概念,定义: Cmn中的矩阵序列Ak=A1,A2,A3, 按范数收敛于ACmn,如果limkAk-A=0. 利用任二矩阵范数的等价性立即推出命题:对任意两个等价的矩阵范数, , 都有 limnAk-A=0 limnAk-A=0 (即按任意两个矩阵范数的收敛实质上等价) 0 limnAk-A d limnAk-A 0 limnAk-A(1/c)limnAk-A,2021/2/11,矩阵序列的收敛与按范数收敛等价,定理5.4.1: 对Cmn中的矩阵序列Ak和任意范数

24、都有 limkAk=A limkAk-A=0 证:由矩阵范数等价性只须对任意范数,例如 1证明即可. 因Ak-A1=max1jn(i=1m|aij(k)-aij|),故 limk Ak=A i,j, limk|aij(k)-aij|=0 j, limkmax1jn(i=1m|aij(k)-aij|)=0 limkAk-A1=0,2021/2/11,矩阵范数小于1的方阵幂的极限,定理5.4.2:对Cnn中的任意矩阵A和任意范数成立: A1 limkAk=0 称A收敛于0 证: limkAk-0=limkAk limkAk =0 按相容性公理 Ak=AAk-1AAk-1 AAAk-2 AA=Ak,

25、2021/2/11,矩阵范数小于1的方阵幂的极限续,推论:对Cnn中的任意矩阵A和任意范数成立: A1 (E-A)-1=E+A+A2+Ak+ 证:对任意正整数k成立 (E-A)(E+A+A2+Ak)=E-Ak+1 令k趋向于取极限得(因limkAk+1=0) (E-A)limk(E+A+A2+Ak)=E limk(E+A+A2+Ak)=(EA)-1,2021/2/11,复习Jordan标准形,定理2.3.1(95页): 若ACnn 的初等因子是：则存在可逆变换矩阵P,使 A=Pdiag(J1,Jr)P-1 其中 Ji=Ji(i)=,2021/2/11,方阵收敛于零的充要条件,定义: ACn

26、n称为收敛于零,如果limkAk=0 定理5.4.3: ACnn 收敛于零的充要条件是 (A)1 (定理5.4.2的推广，用5.3.4) 证:取A的Jordan标准形(95页定义2.3.1和定理2.3.1) A=Pdiag(J1,Jr)P-1=PJP-1,其中 Ji=Ji(i)= Ak =PJP-1PJP-1 P-1PJP-1=PJkP-1 =Pdiag(J1k,Jrk)P-1 limkAk=0 i,limkJik (i)=0,2021/2/11,Toplitz矩阵,定义: ACnn称为Toplitz矩阵,如果它在平行于对角线的每条线上的元素全相等: 例如:每个Jordan块及其任何次方幂都

27、是Toplitz矩阵。,2021/2/11,Ji(i)k= (*) 以kd=4的情况为例. Ji()k =(E+M)k M= , M2= =k E+Ck1k-1M+Ck2k-2 M2+Ck3k-3M3+0 = M3= Mi=0,当i3,2021/2/11,limkAk=0 i,limkJi(i)k=0 i,limkik=0 (公式(*)注) i,|i|1 (A)1 注: limkik=0 |i|1 幂级数k=0ik当|i|1时绝对收敛,从而逐项微分k次所得级数k=ik!Ckiik-i也绝对收敛.所以对任意i, limkCkiik-i=0 从而 limkJi(i)k=0,2021/2/11,例5

28、.4.1对下列已知矩阵A,判断Ak的敛散性,A= , , , . 解:对任意正整数k, Ak= 故 limkAk 不存在,即发散. 解:因(A)=1/2,1/3,1/4,故(A)=1/21, limkAk=0,即 Ak 收敛于零. 解:易见对任意正整数k, Ak= 故 limkAk =diag(1,0,0),收敛. 解:(A)A1= 0.9 1,故limkAk=0,即 Ak 收敛于零.,2021/2/11,A= , Ak = . 证:对k用归纳法证明.当k=1时成立,设等于k时已成立,则 Ak+1=AAk= 另外,2021/2/11,5.5 矩阵幂级数,定义5.5.1:对于Cmn中的矩阵序列A

29、k|k=1,2, =(aij(k)|k=1,2,称矩阵级数k=1Ak=A1+A2+Ak+ (绝对)收敛于A=(aij)Cmn,记为k=1Ak=A,如果(在绝对收敛意义下) i,j,k=1aij(k)=aij 例1: Ak=diag(-1)k-1/2k,0) k=1Ak=diag(k=1(-1)k-1/2k,0) =diag(1/2)/(1-(-1/2),0) =diag(1/3,0) 绝对收敛例2: Bk=diag(-1)k-1/k,1/2k) k=1Bk=diag(k=1(-1)k-1/k,k=11/2k) =diag(ln 2,1) 收敛非绝对收敛,2021/2/11,此变项级数非绝对收

30、敛！,2021/2/11,矩阵幂级数之例(第240页),定义5.5.2形如 k=0ckAk=c0E+c1A+ckAk+, ACnn,的矩阵级数称为A的一个矩阵幂级数. 例5.5.5(1):下列矩阵幂级数不收敛: (2):下列矩阵幂级数收敛但不绝对收敛:,2021/2/11,复习正项级数的一些性质, 正项级数k=1ak收敛就是绝对收敛. 正项级数k=1ak收敛递增部分和数列 S1,Sn,有有限上界. 即:存在与n无关的正数 M 使 n,Sn M, Sn=k=1nak前n项和(部分和) 比较判别法:若正项级数k=1ak收敛和|bk|ak,则级数k=1bk绝对收敛. 证: n,k=1n|b(k)|

33、21/2/11,矩阵幂级数绝对收敛的充分条件,定义5.5.2形如 k=0ckAk=c0E+c1A+ckAk+, ACnn,的矩阵级数称为A的一个矩阵幂级数. 定理5.5.3(绝对收敛充分条件): 设ACnn,为Cnn任意矩阵范数,R为数项幂级数:k=0ckxk的收敛半径.如果A R,则k=0ckAk绝对收敛. 证:按假设 k=0|ckAk|=k=0|ck|Ak收敛. 此外, AkAAAk ckAk|ck|Ak . 由正项级数比较定理,k=0ckAk收敛,再由定理5.5.1,k=0ckAk绝对收敛. 注:若R=,则对任意ACnn,k=0ckAk绝对收敛.,2021/2/11,收敛判别应用举例,

34、ex=k=0(1/k!)xk,R=limk|(k+1)!/k!|=, 对任意A,eA=k=0(1/k!)Ak绝对收敛. ln(1+x)=k=1(-1)k-1/k)xk,R=1, 如果 A1, 则k=1(-1)k-1/k)Ak收敛,记为ln(E+A). 特别, A= , A=max0.8,0.9,0.81 (例5.5.1)所以 k=1(-1)k-1/k)Ak绝对收敛,记为ln(E+A).同理 k=0Ak绝对收敛. 前面讲过: 当A1,(E-A)-1=E+A+A2+Ak+=k=0Ak. k=0Ak=(E-A)-1=,2021/2/11,矩阵幂级数的绝对收敛充要条件,定理5.5.4:(绝对收敛充要条

35、件) 设ACnn,R为数项幂级数:k=0ckxk的收敛半径.若(A)R,则k=0ckAk发散. 证:取A的Jordan标准形 A=Pdiag(J1,Jr)P-1, 其中 Ji= Ak =Pdiag(J1k,Jrk)P-1 k=0ckAk = Pdiag(k=0ckJ1k,k=0ckJrk)P-1,2021/2/11,Ji(i)k=,k=0ckJik=,当(A)R时,上面矩阵对角元幂级数发散,故k=0ckAk发散.,2021/2/11,矩阵幂级数的收敛充要条件注,定理5.5.4并非严格意义下的充要条件.因为当(A)=R时结论不确定. 反例:幂级数f(x)=k=1(-1)k-1/k)xk的收敛半径是1,(E)=1. f(E)=k=1(-1)k-1/k)Ek =k=1(-1)k-1/k)E=(ln2)E 收敛. (f(x)=ln(1+x);k=1(-1)k-1/k)=f(1)=ln2.) f(-E)=k=1(-1)k-1/k)(-E)k =-k=1(1/k)E 发散. (调和级数k=1(1/k)发散.),2021/2/11,矩阵幂级数的收敛充要条件应用举例,例:幂级数f(x)=k=1(-1)k-1/k)xk的收敛半径是1. 所以,幂级数f(A)=k=1(-1)k-1/k)Ak发散.,

展开阅读全文