《毕业设计（论文）矩阵方程AX+XB=D的极小范数最小二乘解.doc》由会员分享，可在线阅读，更多相关《毕业设计（论文）矩阵方程AX+XB=D的极小范数最小二乘解.doc（27页珍藏版）》请在三一文库上搜索。
1、题目：矩阵方程题目：矩阵方程AX+XB=DAX+XB=D的极小范数最小二乘解的极小范数最小二乘解 姓 名 学 号 指导教师 专 业 学 院 摘摘 要要 矩阵理论既是学习经典数学的基础，又是一门最有实用价值的数学理论。它不仅 是数学的一个重要的分支，而且也已经成为现代各科技领域处理大量有限维空间形式 与数量关系的强有力的工具。特别是计算机的广泛应用，为矩阵论的应用开辟了广阔 的前景。例如，系统工程、优化方法以及稳定性理论等，都与矩阵论有着密切的联系。 当前，在矩阵理论领域，对矩阵方程解的研究一直是最热点的问题之一，矩阵方 程及其解的问题在生物学、电学、光子光谱学、振动理论、线性最优控制等很多领域
2、 都有重要的应用。矩阵方程解的研究与探索更是没有间断过，可见该方DXBAX 程的求解问题确实是一个非常重要的课题。 本文将围绕该命题展开讨论，利用矩阵的直积（Kronecker 积） 、按行拉直和矩阵 的满秩分解等算法解出矩阵方程的极小范数最小二乘解，并且它可由DXBAX Moore-Penrose 逆表出。 A 关键词：关键词：矩阵方程 极小范数最小二乘解 矩阵的直积（Kroneck 积） 满秩分解算 法 Moore-Penrose 逆 A ABSTRACT Matrix theory is the foundation of learning classical mathematics,
3、as well as one of the most meaningful mathematical theories. It is not only an important branch of mathematics, but also has become a powerful tool of handling many relationships between the finite dimension space structures and quantities in varity fields of modern technology. The extensive use of
4、computer has brought a bright prospect to the application of matrix theory. Many problem have close relation with matrix theory, such as system engineering, optimization method, stability theory, and so on. Nowadays, the research on matrix equations has been turning into one of the hottest topics in
5、 matrix theory . It is widely used in different areas, for example, biology, electrics, spectroscopy, vibration theory, linear optimal control, etc. And people have researched and explored the solution of matrix equation all the time, which means the subject DXBAX study is absolutely crucial. This p
6、aper discusses the available solutions of matrix equation, using Kronecker product, full rank decomposition of matrix to obtain the minimal norm least squares solution of matrix equation . And it can be expressed by Moore-Penrose inverse.DXBAX A Key words: matrix equation; the minimum norm least squ
7、ares solution; Kronecker product; full rank factorization algorithm; Moore-Penrose inverse A 目目 录录 摘 要.1 ABSTRACT.2 1 绪论.4 1.1 李雅普诺夫矩阵方程DXBAX应用背景及研究现状.5 1.2 本文的主要工作.5 1.3 符号说明.6 2 预备知识.7 2.1 矩阵的范数.7 2.1.1 矩阵范数的定义.8 2.1.2 矩阵范数的性质.8 2.2 矩阵的直积及其应用.10 2.2.1 直积的概念.10 2.2.2 矩阵直积的性质.11 2.2.3 线性矩阵方程的可解性.11
8、2.3 矩阵的满秩分解.12 2.3.1 矩阵满秩分解的定义.12 2.3.2 矩阵满秩分解的性质.12 2.4 广义逆矩阵的存在和性质.14 2.4.1 Penrose 的广义逆矩阵定义.14 2.4.2 广义逆矩阵的性质.14 2.4.3 Moore-Penrose 逆矩阵的计算.15 3 矩阵方程 DXBAX 的极小范数最小二乘解.16 3.1 广义逆矩阵与线性方程组的求解.16 3.1.1 线性方程组极小范数最小二乘解的定义.16 3.1.2 矩阵方程转化为线性代数方程组.17 3.2 矩阵方程DXBAX的求解.18 3.2.1 矩阵方程 DXBAX 在相容条件下解的情况.19 3.2
9、.2 矩阵方程 DXBAX 不相容时解的情况.21 结论.22 致谢.23 参考文献.24 1 绪论绪论 矩阵理论既是学习经典数学的基础，又是一门最有实用价值的数学理论。它不仅 是数学的一个重要的分支，而且也已经成为现代各科技领域处理大量有限维空间形式 与数量关系的强有力的工具。在矩阵理论领域，对矩阵方程解的研究一直是最热点的 问题之一，而矩阵方程解的研究与探索更是没有间断过，但几乎所有的DXBAX 结论要么基于矩阵为特殊矩阵（如对称矩阵等）的情形，要么解的表达形式过于BA, 繁琐。此外，还有一些文献仅仅只是讨论了解的存在性。而在力学以及控制论等诸多 领域利亚普诺夫方程都有着很重要的应用。可见
10、该方程的求解问题确实是一个非常重 要的课题，所以，考虑给出该方程的极小范数最小二乘解的表达式也是很有必要的。 本文将围绕该命题展开讨论，并且最终给出它的重要应用矩阵方程 的最小二乘解以及极小范数最小二乘解。DXBAX 1.1 李雅普诺夫矩阵方程李雅普诺夫矩阵方程应用背景及研究现状应用背景及研究现状DXBAX 在科学与工程中，经常会遇到求解线性方程组的问题。矩阵是描述和求解线性方 程组最基本和最有用的数学工具。矩阵有很多基本的数学运算，如转置、内积、外积、 逆矩阵、广义逆矩阵等。 矩阵方程及其解的问题在生物学、电学、光子光谱学、振动理论、有限元、结构 设计、参数识别、自动控制理论、线性最优控制等
11、很多领域都有重要的应用，正是这 些领域提出了许多不同类型的线性矩阵方程的模型问题刺激了理论的快速发展,使得线 性矩阵方程的求解问题成为当今计算数学领域的热门研究课题之一，经过国内外的专 家和学者的不断探索, 迄今为止，线性矩阵方程问题的研究已取得了一系列丰硕的成果。 对于矩阵方程, 1955 年, Penrose 得到了它有一般解的充要条件和通解DXBAX 表达式；1994 年，黄礼平博士研究了四元数体上方阵的标准形与矩阵方程 的问题； 2002 年，马飞博士研究了矩阵方程的迭代解法问DXBAXDXBAX 题, 得出方程在不同精度下的解并给出迭代所需步数；2004 年, 袁永新教授研究了矩阵
12、方程的最优解问题。DXBAX 1.2 本文的主要工作本文的主要工作 论文第一章简要的介绍了利亚普诺夫方程研究的实际背景及研究现状；第二章介 绍了已有的主要结果、范数理论、矩阵的直积（Kronecker 积） 、按行拉直和矩阵的满 秩分解算法等。第三章为本文的主要工作，本文根据直积的定义及性质可以将矩阵方 程拉直为一般的线性方程组，以此为基础，求解经过按行向量拉直转化DXBAX 得到的线性方程组，解出该方程的极小范数解和最小二乘解，虽然最小二乘解一般不 是唯一的，但是极小范数最小二乘解确实唯一的，并且它可由 Moore-Penrose 逆表 A 出。若矩阵方程不相容，则它的极小范数最小二乘解需满
13、足DXBAX |min |min X DXBAX 求出的即为矩阵方程极小范数最小二乘解。第四章给出了结论，最后XDXBAX 是本文的参考文献与致谢。 1.3 符号说明符号说明 实数域 实维向量空间n 实矩阵空间nm 秩为 的实矩阵的集合rnm 复数域 复维向量空间n 复矩阵空间nm 秩为 的复矩阵的集合rnm 矩阵的行列式A 维线性空间n 矩阵的值域，的列空间AA 矩阵的秩A 单位变换 向量与向量的内积 x y 向量生成的子空间 n xxx, 21 矩阵的转置A 矩阵的共轭转置A 矩阵的 行列处的元素Aij 矩阵的任意范数A 矩阵的 Frobenius 范数A 矩阵的条件数A 向量的-范数xp
14、 矩阵的第 个特征值Ai R n R nm R nm r R C n C nm C nm r C Adet n V )(AR rankA e T ),(yx ),( 21n xxxL T A H A ij A)( A F A )(Acond p x )(A ii 或 矩阵与矩阵的直积AB 矩阵按行拉直所得到的列向量A 矩阵的 Moore-Penrose 逆 A 矩阵的群逆 A BA )(Avec A # A 2 预备知识预备知识 2.1 矩阵的范数矩阵的范数 在计算数学中，特别是在数值代数中，研究数值方法的收敛性、稳定性及误差分 析等问题时，范数理论都显得十分重要。本章主要讨论矩阵空间中的矩阵
15、范数的 nm C 理论及其性质。 矩阵空间是一个维的线性空间，将矩阵 A 看做线性空间中的 nm C mnnm nm C “向量” ，可以按照定义-范数的方式定义 A 的范数。但是，矩阵之间还有乘法运算，p 它应该在定义范数时予以体现。 2.1.1 矩阵范数的定义矩阵范数的定义 定义定义 2.1 设，定义一个实值函数, 它满足以下三个条件A nm C A （1）非负性：当时，0; 当时，;0AA0A0A （2）齐次性：;CaAaaA, （3）三角不等式：, ,则称为 A 的广义矩阵范数。BABAB nm C A 若对，及上的同类广义矩阵范数，有 nm C ln C lm C * . （4）相容
16、性： , BAABB ln C 则称为的矩阵范数。AA 2.1.2 矩阵范数的性质矩阵范数的性质 同向量的情况一样，对于矩阵序列也有极限的概念：设有一个矩阵序列，其 )(k A 中，。用记的第 行第列的元素，且都有极限，则 )(k A nm C ,.2 , 1k )(k ij a )(k Aij )(k ij a ij a 称有极限，或称收敛于矩阵,记为 )(k A)( ij aA )(k AA = 或 lim x )(k AA )(k AA 不收敛的矩阵序列称为发散的。于是可以证明：的充要条件是。 )(k AA0 )( AA k 由定义 2.1 的条件（3） ，可以证明下列不等式 | |BA
17、 BA 由此可以证明矩阵范数的连续性，即由 )(k AA 可以推出 AA k )( 事实上，由上面的论述知，当时，,但是 )(k AA0 )( AA k |AA k )( AA K )( 于是当时，便有。0 )( AA k AA k )( 推论推论 2.1 已知 A=（，可证明下面二函数 nn ij Ca ) ， n ji ij m aA 1, 1 ij ji m anA , max 都是上的矩阵范数。 nn C 证 对于函数而言，它显然具有非负性与齐次性，现仅就三角不等式与相容 1 m A 性加以验证于下 )( 1,1, 1 ij n ji ij n ji ijij m babaBA + n
18、 ji ij n ji ij ba 1,1, 1 m A 1 m B n ji njinjiji m bababaAB 1, 2211 1 )( 1 1, 1njinj n ji i baba n j njj n i ini bbaa 1 1 1 1 n ij ij n ji ij ba 1,1, 1 m A 1 m B 因此，是 A 的矩阵范数。 1 m A 同理可证，也是 A 的矩阵范数。 m A 如同向量范数一样，矩阵范数也是多种多样的。但是，在数值方法中进行某种估 计时，遇到的多数情况是，矩阵范数常与向量范数混合在一起使用，而矩阵经常是作 为两个线性空间上的线性映射（变换）出现的。因此
19、，考虑一些矩阵范数时，应该使 他能与向量范数联系起来。这可由矩阵范数与向量范数相容的概念来实现。下面引入 这一概念。 定义定义 2.2 对于上的矩阵范数和与上的同类向量范数, 如果 nm C M m C n C V , VMV xAAx xCA nm , n C （2.1） 则称矩阵范数与向量范数是相容的。 M V 定理定理 2.1 设 A，且与都是酉矩阵，则 nm C P nm C nm CQ FFF AQAPA 即给 A 左乘或右乘以酉矩阵后其值不变（在时，和 Q 都是正交矩阵） 。 F nm RA P 证 若记 A 的第 j 列为，则有), 3 , 2 , 1(njaj 2 21 2 )
20、,( F n F aaaPPA 2 21 ),( F n PaPaPa 2 2 2 1 2 2 1 F n j j n j j AaPa 即。于是 FF APA F F H F HH F H F AAAQAQAQ)( 推论推论 2.2 和 A 酉（或正交）相似的矩阵的 F-范数是相同的，即若,则AQQB H , 其中 Q 是酉矩阵。 FF AB 2.2 矩阵的直积及其应用矩阵的直积及其应用 矩阵的直积（Kronecker 积）在矩阵的理论研究和计算方法中都有十分重要的应用。 特别地，运用矩阵的直积运算，能够将线性矩阵方程转化为线性代数方程组进行讨论 或计算。 2.2.1 直积的概念直积的概念
21、首先从简单的例子开始。设有二元向量和三元向量,他们分别 T ),( 21 T ),( 321 经过二阶矩阵和三阶矩阵，即 ， 2221 1211 aa aa A 333231 232221 131211 bbb bbb bbb B 的变换，变成向量和，即有 T ),( 2 1 T ),( 3 2 1 ， 2 1 2 1 A 3 2 1 3 2 1 B 现在考虑以这两个向量的分量乘积为分量的六元向量 T u),( 322212312111 经过怎样的线性变换可以变成六元向量 ),( 3 2 2 2 1 2 3 1 2 1 1 1 v 由假设 2 , 1, 2211 iaa iii 3 , 2 ,
22、 1, 332211 jbbb jjjj 故有 22221212313121211111 jijijijijiji bababababa + （） 3232 ji ba3 , 2 , 1, 2 , 1ji 于是所求变换的矩阵为六阶矩阵 BaBa BaBa 2221 1211 一般地，引进以下的定义。 定义定义 2.3 设则称如下的分块矩阵,)(,)( qp ij nm ij CbBCaA （2.2） 为的直积（Kronecker 积） 。BA与 是一个块的分块矩阵，所以式（2.2.1）还可简写为BAnm = BA)(Baij （2.3） 2.2.2 矩阵直积的性质矩阵直积的性质 矩阵的直积具有
23、以下性质。 （1）)()()(kBABkABAk （2）设为同阶矩阵，则 21 AA与 BABABAA 2121 )( 2121 )(ABABAAB （3）)()(CBACBA （4）设， 2211 )(,)( )2( 2 )1( 1nmijnmij aAaA 2211 )(,)( )2( 2 )1( 1qpijqpij bBbB 且，则 2121 ,pqmn 。)()()( 21212211 BBAABABA （5）设都可逆，则 nnmm BA 与 111 ) BABA（ （6）设都是上三角（下三角）矩阵，则也是上三角（下三角） nnmm BA 与BA 矩阵。 （7） HHH BABA)(
24、（8）设与都是正交（酉）矩阵，则也是正交（酉）矩阵。 nm A nm B BA 2.2.3 线性矩阵方程的可解性线性矩阵方程的可解性 在系统控制等工程领域，经常遇到矩阵方程 AX+XB=D （2.4） nqmp mnmm n n C BaBaBa BaBaBa BaBaBa BA 21 22221 11211 的求解问题，其中，为以知矩阵，而,为未知矩A mm C nn CB nn CD nm CX 阵，一般地线性矩阵方程可表示为 FXBA i l i i 1 （2.5） 其中为已知矩阵，而为未知矩阵。 nmnq i pm i CFCBCA , qp CX 下面利用矩阵直积的性质，研究矩阵方程
25、（2.5）的可解性问题。 设，并记的第 行为及 nq pmij CBaA ,)( qp CX i),.,2 , 1(pix T i T T p TT xxxXvec),()( 21 则有 BxaxaxaAXB T pip T i T i )( 2211 从而 )()( 2211pipii T xaxaxaBAXBvec = p T mp T m T p T x x BaBa BaBa 1 1 111 =)()(XvecBA T 定理定理 2.2 方程（2.5）有解的充要条件是，这里，表)()( 1 l i T ii BARFvec)(AR 示矩阵A的列空间。 定理定理 2.3 设的特征值为，的
26、特征值为，则方程 mm A m , 21 nn B n , 21 有惟一解的充要条件。FXBAX), 2 , 1, 2 , 1(0njmi ji 2.3 矩阵的满秩分解矩阵的满秩分解 本节论述将非零矩阵分解为列满秩矩阵与行满秩矩阵的乘积问题。 2.3.1 矩阵满秩分解的定义矩阵满秩分解的定义 定义定义 2.4 设，如果存在矩阵和，使得)0( rCA nm r rm r CF nr r CG (2.6)FGA 则称式（2.6）为矩阵的满秩分解。A 当是满秩（列满秩或行满秩）矩阵时，可分解为一个因子是单位矩阵，另一AA 个因子是本身，称此满秩矩阵分解为平凡分解。A 2.3.2 矩阵满秩分解的性质矩
27、阵满秩分解的性质 矩阵的满秩分解有下列性质： 定理定理 2.4 设，则有满秩分解（2.6） 。)0( rCA nm r A 证 当时，根据矩阵的初等变换理论，对进行初等变换，可将化为rrankA AA 阶梯形矩阵，即B nr CG G BA r , 0 行 于是存在有限个阶初等矩阵的乘积，记作,使得mP 或者 BPA BPA 1 将分块为 1 P , , 1 SFP rm r CF )(rnm rn CS 则有 1 0 GF G SFBPA 其中是列满秩矩阵，是行满秩矩阵。 证FG 毕 需要指出的是，矩阵的满秩分解（2.6）不是唯一的。这是因为若取是任意一AD 个 阶非奇异矩阵，则式（2.6）
28、可改写为r 1 )(GFGDFDA 这是的另一个满秩分解。A 在求列满秩矩阵时，需要求出矩阵及其逆矩阵，这是十分麻烦的。为了避FP 1 P 免这些运算，引入下面的定义。 定义定义 2.5 设, 且满足)0( rCB nm r （1）的前 行中每一行至少含一个非零元素，且第一个非零元素是 1，而后Br 行元素均为零;rm （2）若中第 行的第一个非零元素 1 在第列（） ，则Bi i jri, 2 , 1 ；r jjj 21 （3）中的列为单位矩阵的前 列，那么就称为 Hermite 标准形。Br jjj, 21 m IrB 定义定义 2.6 以阶单位矩阵的个列向量为列构成的阶矩阵n n In
29、n eee, 21 n ),( 21jnjj eeeP （2.7） 称为置换矩阵，这里是 1,2，的一个排列。 n jjj, 21 n, 定理定理 2.5 设的 Hermite 标准形为（如定义 2.5） ，那么，在的)0( rCA nm r BA 满秩分解（2.6）中，可取为的列构成的矩阵，为的前 行构FAr jjj, 21 rmGBr 成的矩阵。nr 证 由知，存在阶可逆矩阵，使得BA 行 mP 或者 BPA BPA 1 根据定理，将分块为 1 P , , 1 SFP rm r CF )(rnm rn CS 可得满秩分解，其中为的前 行构成的矩阵。FGA GBrnr 下面确定列满秩矩阵。参
30、照的 Hermite 标准形，作阶置换矩阵FABn ),( 11 1 nrr jjjj eeeeP 划分 ， ，则有 ),( 11 1 nrr jjjj aaaaAP OO BI bbbbBP r jjjj nrr 12 1 ),( 11 其中。再由可得 )( 12 rnr CB BPA 1 121 1112 () r IB APPBPF SF FB OO 即为的前 列构成的矩阵，也就是的列构成的矩阵。 证F 1 APrAr jjj, 21 毕 2.4 广义逆矩阵的存在和性质广义逆矩阵的存在和性质 2.4.1 Penrose 的广义逆矩阵定义的广义逆矩阵定义 定义定义 2.7 设矩阵，若矩阵满
31、足如下四个 Penrose 方程 nm CA mn CX (i) AAXA (ii) XXAX (iii) AXAX H )( (iv) XAXA H )( 则称为的 Moore-Penrose 逆，记为。XA A 定理定理 2.6 对任意，存在且唯一。 nm CA A 证 先证存在性 设。若，则是零矩阵，可以验证零rrankA 0rAnmmn 矩阵满足四个 Penrose 方程。若，由定理知，可进行奇异值分解0rA ),( 21n aaaA),( 21n bbbB , H UDVA OO O D r 1 其中是的奇异值，和分别是阶和阶酉矩阵。容易验证), 1(0ri i AUVmn H mn
32、 r U OO O VX 1 1 1 满足四个 Penrose 方程。可见，总是存在的。 A 唯一性 设均满足方程(i)(iv),则YX, HHHHH AYAXXAXXAXXX)()()( YYAYYAXAXAY HHHH )()( YYYA H )( 证毕 2.4.2 广义逆矩阵的性质广义逆矩阵的性质 广义逆矩阵有以下性质 定理定理 2.7 设 ，则 nm CA pn CB C （1）;1)( )1(HH AA （2）;1 )1(H AA （3）若和非奇异，则;ST1)( 1)1(1 SATSAT （4）;rankArankA )1( （5）和均为幂等矩阵且与同秩； )1( AAAA )1(
33、 A （6） 定理定理 2.8 给定矩阵和,则的充要条件是A1AX 2 , 1AX rankArankX 证 充分性 显然, 若，由定理 2.6 之（5）得)()(XRXARrankArankX rankArankXXArank)( 所以，即存在矩阵使得)()(XRXARY XAYX 从而 XXAYXAYXAXAX)( 必要性 因为和互为1,2-逆，有定理（2.4.2）之（4）即得。 证毕AX )()( ),()(),( )1( )1()1( HH ARAAR ANAANARAAR 定理定理 2.9 设矩阵给定，则A （1）rankArankA （2）AA ) ( （3）; TTHH AAAA
34、)()( ,)()( （4）; AAAAAAAA HHHH )()( ,)()( （5）; )()( HHHH AAAAAAA （6）)()(),()( HH ANANARAR 推论推论 2.2 若，则 nm CA (2.8) HH AAAA 1 )( 若，则 nm m CA (2.9) 1 )( HH AAAA 推论推论 2.3 设为维列向量，且，则n0 (2.10) HH 1 )( 而 (2.11) 1 )()()( HHH 2.4.3 Moore-Penrose 逆矩阵的计算逆矩阵的计算 假定矩阵的秩为 ，其中，下面介绍求 Moore-Penrose 逆矩阵nmAr),min(nmr 的
35、一种方法，满秩分解法。 A 前面已经介绍过矩阵的满秩分解的概念，并给出了用初等变换进行满秩 nm r CA 分解的方法。设的满秩分解为)0( rCA nm r (2.12)FGA 其中，那么可以按照下述定理给出的结论计算广义逆矩阵。 rm r CF nr r CG 定理定理 2.10 设的满秩分解为式（2.12） ，则)0( rCA nm r （1）; 4 , 2 , 1, )1()( iiAFG i （2）; 3 , 2 , 1, )()1( iiAFG i （3）,3 , 2 , 1 )1( AFG ;4 , 2 , 1 )1( AFG （4） FGFGA )4, 1()3 , 1( （5） HHHH FFFGGGFGA 11 )()( HHHH FAGFG 1 )( 证 由定理知 r IGGFF )1()1(