线性代数LinearAlgebra刘鹏.ppt

《线性代数LinearAlgebra刘鹏.ppt》由会员分享，可在线阅读，更多相关《线性代数LinearAlgebra刘鹏.ppt（43页珍藏版）》请在三一文库上搜索。

1、线 性 代 数 Linear Algebra 刘鹏,复旦大学通信科学与工程系 光华楼东主楼1109 Tel: 65100226 ,问题：非齐次线性方程组 AX=b 的所有解向量 是否构成 Rn 上的线性空间？,否，因为对线性运算不封闭：,设 X1 X1 是解向量，则,对加法运算不封闭，因此不能构成 Rn 上的 线性空间.,三、过渡矩阵与坐标变换公式,定义 4.6: 设 1, 2 , ., n 和 1, 2 , ., n 是 n 维线性空间 V 中的两个基，且有：,则称矩阵 M 为由基1, 2 , ., n 到 基 1, 2 , ., n 的过渡矩阵(transition matrix).,定理

2、 4.3: 设 1, 2 , ., n 和1, 2 , ., n 是 n 维线性空间 V 中的两个基，且有：,则,(1) 过渡矩阵 M 是可逆的；,(2) 若 V，且在基 1, 2 , ., n 和 1, 2 , ., n 下的坐标分别为 x1,x2,.,xn T 和 x1,x2,.,xn T ，则有,四、线性子空间的维数与基,基/维数/坐标等概念也可以应用到线性子空间,定理 4.4: 设1, 2 , . , l 与 1 , 2 , . , s 是线性空间 V 中的两个向量组。,(1) L(1, 2 , . , l ) = L(1 , 2 , . , s ) 的充分必要条件是 1, 2 , .

3、 , l 与 1 , 2 , . , s 等价;,(2) L(1, 2 , . , l ) 的维数等于向量组 1, 2 , . , l 的秩., 4.3 欧几里德(Euclid)空间,一、欧几里德空间的定义及基本性质,定义 4.7:引入内积后的有限维实线性空间 就是欧氏空间.,常定义内积 (inner/dot/scalar product) 如下,实数,内积的基本性质：,(1) (,) = (,)；,(2) (k,) = k(,)；,(3) (+,) = (,) + (,)；,(4) (,)0 ，当且仅当=0 时(,)= 0 .,对称性,(2、3)线性性,恒正性,二、向量的长度与夹角,有了内积

4、的定义，可以进一步给出欧氏空间内 向量的长度与向量间夹角的定义.,定义 4.8: 设是欧氏空间 V 的一个向量， 称非负实数,为向量的长度(length) 或模或范数 (norm，2范数) ，记为:,长度为1的向量:单位向量.,有了范数就可以度量：度量向量间距离的远近，度量向量的长度，度量误差的大小,长度的基本性质：,(3) 三角不等式: | + | | + |.,(1) 正定性: | 0; 且| = 0 = ;,(2) 齐次性: |k| = |k| (kR);,定理 4.5: 柯西施瓦茨不等式(Cauchy-Schwartz Inequality):,对于欧氏空间 V 中任意两个向量 ， ，

5、恒有,当且仅当 与 线性相关时等号成立.,定义, 的夹角为,定义 4.9:设, 是欧氏空间中的两个非零向量,定义 4.10: 若(, ) = 0, 即 = / 2, 则称与 正交或垂直 ，记为 .,三、内积的坐标表示,设 V 是一个 n 维欧氏空间，在 V 中任意取定 一个基 1, 2 , .,n ，对 V 中任意两个向量 ， 有,有了内积的定义，线性空间中的基、维数、 坐标等概念也可以应用于欧氏空间.,由内积的性质,利用矩阵可表示为,其中,矩阵 A 称为基 1, 2 , .,n 的 度量矩阵 (metric matrix).,由定义，度量矩阵是实对称阵，,度量矩阵的对角线元素恒正.,A 是基

6、中各个向量的内积构成的，度量矩阵确定 后，V 中任意两个向量的内积可由它们的坐标决定.,例： 设1, 2 , 3，4 是欧氏空间V 中的一个基， 其度量矩阵为,且V 中两个向量,求 |2 | 和 ( ， ).,解：由度量矩阵的定义,由(3.8)式,如果基中向量两两正交，度量矩阵变为对角阵；,如果基中向量不仅两两正交，而且长度为1 度量矩阵变为单位阵 内积计算大大简化.,四、标准正交基,线性空间内任一向量可由基和坐标线性表示；,基作为度量标准，首先必需满足：(1) 组成向量线性无关；(2) 空间中任一向量都可由基线性表示.,基作为度量标准，本身应该尽可能简洁。,普通基不满足：表示不方便，计算不方

7、便， 计算不稳定.,而标准正交基类似于几何空间中的直角坐标系： 表示方便，计算方便，计算稳定.,后面我们会看到，在标准正交基下，内积、 范数、度量矩阵等都具有简单的形式；,标准正交基是基的一种，所以任一向量 ， 总能用标准正交基线性表示.,例如： （1 0 0）（1 1 0） （1 1 1） 与 （1 0 0）（0 1 0） （0 0 1）,定义 4.11 在欧氏空间 V 中，一组非零向量，如果它们两两正交(mutually orthogonal) ，就称它为 正交向量组。,例如 R n 的标准基 (e1 , e2 , ., en),例如,1 2 1,1 1 1,1 0 1,证明：作正交向量组

8、1,2,m的线性组合，使得,用 j 对等式作内积，因为,定理 4.6 设1,2,m (mn) 是 n 维欧氏空间 V 中的一组正交向量，则1,2,m 线性无关。,故必有 j = 0, 所以向量组1,2,m 线性无关.,特别地，只有一个非零向量构成的向量组 也称为正交向量组,因为在此向量组中找不到两个向量不正交.,dimV = n 时，V中两两正交的向量不会 超过 n 个 ,如平面上找不到3个两两正交的向量， 空间中找不到4个两两正交的向量.,定义 4.12 在 n 维欧氏空间 V 中，由 n 个 两两正交的非零向量所构成的正交向量组称为 正交基；,由单位向量构成的正交基称为标准正交基。,例如,

9、1 2 1,1 1 1,1 0 1,例：证明向量组：,是欧氏空间R3 的一个标准正交基.,解：由于,且,由定义知 1， 2 ， 3 是一组正交基.,若1, 2 , .,n 是 n 维欧氏空间 V 中的一个 标准正交基，由定义4.12有,标准正交基的度量矩阵为单位阵.,利用度量矩阵，两个向量的内积变得非常简单,因此向量组的正交化非常必要: 从内积空间 （如欧几里得空间）中的一组线性无关向量出发， 得到同一子空间上两两正交的向量组(基).,定理 4.7 任一 n 维欧氏空间(n1) 都必有 正交基(orthogonal basis) 。,证明：设向量组1,2,n是n 维欧氏空间的 任意一个基，我们

10、可以由它构造一个正交基,先取,显然1 0, 令,使2与1 正交，即,于是系数,而且2 0, 否则 1,2 线性相关，与假设矛盾.,施密特正交化过程(Schmidts Orthonormalization Process),此时2与1 已正交；,我们再令,并且使3 与2 、1 都正交，故,于是系数,同理，由,因此，有,且3 0, 否则 1,2 ,3线性相关，与假设矛盾.,此时3、2 、1 已两两正交.,重复上述步骤，可得,且n 0, 此时 1, 2 , . , n 两两正交，即为 所求正交基.,Schmidt 正交化提供了正交化方法：通过子空间的一个基 得出子空间的一个正交基，,并可进一步求出对

11、应的标准正交基.,几何解释： 设, Rn, 且与 线性无关,求常数 k 使 +k 与 正交.,解 (1)：几何方法,与 同方向，所以,施密特正交化的几何解释,定义(投影) 若 与 是 n 维内积空间中的 向量，则 到 的标量投影(scalar projection)为,则 到 的向量投影(vector projection) 为,由前例 - .,Schmidt 正交化基本思路就是利用投影原理， 在已有正交基的基础上构造一个新的正交基。,具体的说，从其中一个向量所张成的一维子空间 开始，重复扩展构造直到 n 维空间：,Erhard Schmidt,(1876.1.13-1959.12.6)德国数

12、学家, ,哥廷根大学博士，师从希尔伯特,拉普拉斯和柯西更早发现这一正交化方法，但没有达到施密特的高度.,主要工作在积分方程和希尔伯特空间方面， ,创立了泛函分析。,现代数学的奠基人之一。,实际数值计算中，Schmidt正交化并不稳定， 误差累积会使得正交性越来越差，,常用的是 Householder 变换 或 Givens旋转.,4.7推论 任一 n 维欧氏空间(n1) 都有一个 标准正交基(orthonormal basis) 。,只要将定理4.7中的正交基单位化即得.,1, 2 , . , n 即为 所求标准正交基.,标准正交基 正交矩阵 线性方程组求解,正交基带来的好处：,计算的方便性和

13、稳定性,例：已知欧氏空间 R4 的向量组：,试求：(1)生成子空间 L( 1， 2 ， 3 )的一个标准正交基； (2) 将此标准正交基扩充成 R4 的一个标准正交基.,解: (1) 先求向量组的秩，得到一组基,向量组的秩 r = 2，dim L( 1， 2 ， 3 )=2，取 1， 2 为基.,将 1， 2 正交化，令,再标准化，得,即为生成子空间 L( 1， 2 ， 3 ) 的一个标准正交基.,(2) 将此标准正交基扩充成 R4 的一个标准正交基.,设向量 = x 1，x 2 ，x 3 ，x 4 R4 ，且 1 ， 2 ，即,求齐次线性方程组的基础解系，得,将 4， 5 正交化，令,再标准

14、化，得,向量组 1，2 ，3 ，4 就是 R4 的一个标准正交基.,练习：考虑 Px3 中定义的内积,求 Px3 的一组标准正交基.,提示: 不妨从标准基出发，先正交化，再单位化,(1) 正交化，令,(2) 单位化：,选择系数，令 n (1)=1 n 阶勒让德多项式：,40,例：令矩阵,试求：A 的列空间的一组标准正交基；,解: 显然 A 的3个列向量线性无关，它们构成 R4 的3 维子空间的一组基，可以使用施密特正交化过程,正交化、标准化同时进行，令,令,令,向量组 q1，q2 ，q3 就是 A 的列空间的一组标准正交基.,定理(QR分解) 若 A 是一秩为 n 的 mn 阶矩阵，则A 可以 分解为乘积 QR, 其中 Q 为列正交的mn 阶矩阵， R 为对角线元素均为正的 nn 阶上三角阵。,例中的 QR 分解为,