《协方差与相关系数.ppt》由会员分享，可在线阅读，更多相关《协方差与相关系数.ppt（43页珍藏版）》请在三一文库上搜索。
1、4.3 协方差与相关系数,一、协方差的定义 二、协方差的性质 三、相关系数的定义 四、相关系数的性质 五、矩的概念与协方差矩阵 六、n维正态分布的概率密度与性质 七、小结,前面我们介绍了随机变量的数学期望和方差，对于多维随机变量，反映分量之间关系的数字特征中，最重要的，就是本讲要讨论的,协方差和相关系数,本节将要讨论的协方差是反映随机变量之间依赖,关系的一个数字特征.,完,在证明方差的性质时，,已经知道，,立时，,有,反之则说明，,当,时，,这说明量,一、协方差的定义,定义,若,存在，,则称其为随机变量,记为,即,按定义，,其概率分布为,则,其概率密度为,利用数学期望的性质，,特别地，,有,完
2、,协方差计算的简化公式,二、协方差的性质,1.,协方差的基本性质,(1),(2),(3),常数；,(4),(5),为任意常数；,(6),则,2.,随机变量和的方差与协方差的关系,特别地，,注：,则,则有,可以证明：,则协方差,一定存在且满足下列不等式：,完,例1,已知离散型随机向量,的概率分布如右表,求,解,的概率分布为,布为,计算得,于是,完,例2,求,解,数分别为:,从而,完,协方差的大小在一定程度上反映了X和Y相互间的关系，但它还受X与Y本身度量单位的影响. 例如：,Cov(kX, kY)=k2Cov(X,Y),为避免随机变量本身度量单位不同而影响它们相互,关系的度量，,可将每个随机变量
3、标准化，,即取,量，,而,定义,称,特别地，,三、相关系数的定义,四、相关系数的性质,性质1.,证,由方差的性质和协方差的定义知，,对任意实数,有,令,则,故必有,所以,注意到此时,易见结论成立.,注：,性质2.,则,例1 设X服从(-1/2, 1/2)内的均匀分布,而 Y=cos X,（请课下自行验证）,因而 =0，,即X和Y不相关 .,但Y与X有严格的函数关系，,即X和Y不独立 .,性质3.,若,则,存在常数,使,注：,的值越接近于1，,的值越接近于0，,时，,时，,即X和Y以概率1线性相关.,而且,时，,这里注意：,关系.,4.,设,则有下列结论：,若,则,使均方误差达到最小.,=E(Y
4、2)+b2E(X2)+a2- 2bE(XY)+2abE(X) - 2aE(Y),e =EY-(a+bX)2 ,解得,这样求出的最佳逼近为 L(X)=a0+b0X,注：,似程度越好，,且知最佳的线性近似为,其余均方误差,越小.,反之，,越近于0，,就越大，,而,从这个侧面也,完,例3,易知,于是,不相关.,在线性关系,但,事实上,的值完全可由,的值所确定.,完,例4,且,是否独立.,解,由于,而,因此,完,例5,已知,的相关系数,设,求,及,解,因,且,所以,因,且,所以,又因,故,例6,设二维随机变量,求相关系数,解,根据二维正态分布的边缘概率密度知,而,例6,设二维随机变量,求相关系数,解,
5、令,则有,例6,设二维随机变量,求相关系数,解,则有,即有,于是,注:,从本例的结果可见,二维正态随机变量,它们的相关系数所确定.,五、矩的概念,定义,称,混合中心矩.,注:,由定义可见：,(1),(2),(3),心矩.,完,六、协方差矩阵,排成矩阵的形式：,对称矩阵,矩阵.,若,都存在，,为,的协方差矩阵.,完,称,六、n维正态分布的概率密度与性质,先考虑二维正态分布的概率密度，,再将其推广到,维情形.,记,协方差矩阵,易验算,易验算,表示为,进一步，,向量，,若它的概率密度为,若它的概率密度为,其中，,是它的行列式，,维列向量，,完,维正态分布的几条重要性质,1.,都是正态变量，,反之，,若,2.,分布的充要条件是,任意线性组合,均服从一维正态分布,3.,注：,这一性质称为正态变量的线性变换不变性.,4.,等价于“,两两不相关” .,完,例7,解,故,性组合是正态分布 ,且,即,例7,解,且,完,这一讲我们介绍了协方差和相关系数,相关系数是刻划两个变量间线性相关程度 的一个重要的数字特征.,注意独立与不相关并不是等价的.,当(X,Y)服从二维正态分布时，有,协方差是反映随机变量之间依赖关系的一个数字特征.,